近日，一起涉及先進人工智能技術的安全事件引發(fā)了廣泛關注。據(jù)報道，一位網(wǎng)名為“STS 3D”的海外工程師，利用ChatGPT技術，打造了一款能夠響應指令并自動瞄準射擊的步槍炮塔裝置。這一裝置在接收到“射擊”命令后，能夠迅速調(diào)整步槍，并使用空包彈對近距離的墻壁進行射擊。
在演示過程中，工程師向ChatGPT發(fā)出指令，模擬了左前方和右前方受到攻擊的場景，并要求系統(tǒng)做出相應反應。令人驚訝的是，步槍炮塔以極快的速度和極高的精確度，成功理解了指令并完成了動作。這一切的實現(xiàn)，得益于OpenAI提供的實時API接口，使ChatGPT能夠理解諸如“向左轉(zhuǎn)”等命令，并將其轉(zhuǎn)化為機器語言。
然而，這一創(chuàng)新并未得到OpenAI的認可。據(jù)OpenAI向媒體透露，公司已經(jīng)主動發(fā)現(xiàn)并關閉了該開發(fā)者的賬號。OpenAI強調(diào)，其技術使用政策明確禁止將技術用于武器開發(fā)或使可能危及人身安全的系統(tǒng)自動化。OpenAI還表示，在接到媒體詢問之前，已經(jīng)通知開發(fā)者停止相關活動。
值得注意的是，OpenAI的政策在過去一年中有所調(diào)整。去年初，OpenAI悄然從其使用政策中刪除了“明確禁止將其技術用于軍事目的”的條款。此前，其政策還明確禁止“具有高身體傷害風險的活動”，特別是武器開發(fā)、軍事和戰(zhàn)爭。然而，在新政策中，雖然保留了“不得使用其服務傷害自己或他人”的禁令，并以“開發(fā)或使用武器”為例，但“軍事和戰(zhàn)爭”這一更全面的禁令已被移除。
這一政策調(diào)整引發(fā)了關于人工智能倫理和安全的廣泛討論。隨著技術的不斷發(fā)展，如何確保人工智能技術的安全使用，防止其被用于危害人類的活動，成為了亟待解決的問題。此次事件也再次提醒人們，在追求科技創(chuàng)新的同時，必須時刻關注技術的倫理和社會影響。
