據《讀賣新聞》25 日報道，日本一名 25 歲林(Hayashi)姓男子因濫用生成式 AI 制造電腦病毒，被東京地方法院判處有期徒刑三年，緩期執行四年，標志著日本首次有因濫用生成式 AI 作出刑事定罪的案例。

　　據判決書等資料顯示，去年 3 月 31 日，該男子左右在川崎市的住所中利用電腦和智能手機，通過生成式 AI 獲取的惡意程序設計圖(源代碼)制作了類似勒索軟件的電腦病毒。此外，他還冒充他人騙取了手機通信卡等物品。

　　判決稱：“被告為了獲取金錢而制作病毒，其行為自私且刑事責任重大。”同時，考慮到該男子已承認起訴事實并表示反省，法院決定給予緩刑。

　　圖源 Pexels

　　在法庭上揭露了另一個現實 —— 哪怕沒有 IT 專業知識，也可以利用生成式 AI 制作病毒。根據檢方的開場陳述，被告林某使用“非官方版的 ChatGPT”，創建了對特定文件進行加密并使其無法使用，以及要求支付加密貨幣“比特幣”的程序源代碼。據稱，他通過修改并合并上述代碼來完成病毒的制作。

　　被告在本月 1 日的質詢中表示，完成病毒大約花費了一個月時間。他承認自己沒有 IT 知識，“如果沒有生成式 AI 的話，我想自己無法制作出來。”當辯護人問他“是否很簡單”時，他回答說“是”。檢方在陳述中指出，如果被告沒有因通信卡詐騙案被捕，他的病毒可能會被用于犯罪。

　　IT之家從報道中獲悉，安全公司“三井物產 Secure Directions”高級惡意軟件分析技術員吉川孝志稱，生成式 AI 設置了不提供非法信息的限制，但網上也存在規避限制的方法。被告在質詢中也表示“查找了解除限制的方法，并使用之”。

　　吉川孝志稱：“生成式 AI 被惡意利用時，即便沒有知識的人也可能獲取可用于犯罪的信息”，并指出“在不影響正當使用的前提下，必須加緊采取防止濫用的對策”。