“面對AI，我們只有兩個選擇：要么訓練它永遠不傷害人類，要么‘消滅’它！”7月26日，“AI教父”、諾獎與圖靈獎雙料得主杰弗里·辛頓（Geoffrey Hinton）首次到訪中國，站上2025世界人工智能大會暨人工智能全球治理高級別會議（WAIC 2025）主論壇講臺，向世界拋出那個關乎“人類智能是否可被模擬”的終極問題。

“當前人類與AI的關系，就像在飼養一只老虎幼崽——它長大后可能輕易超越人類。幾乎所有專家都認為，我們將創造出比人類更智能的AI。”這讓杰弗里·辛頓感到擔憂，在談及AI安全時，他發出警告，未來AI或會具備自我復制與目標控制能力，“一旦它們的智能水平遠超人類，它們將會像成年人操縱三歲小孩一樣輕松地操縱我們。”

杰弗里·辛頓同時指出，AI在醫療、教育、氣候變化、新材料等領域潛力巨大，幾乎能夠提升所有行業的效率，“即便有國家選擇放棄AI，其他國家也不會停止發展。因此，我們無法消除AI，只能找到訓練它不傷害人類的方法。”

對此，杰弗里·辛頓認為，各國在網絡攻擊、致命武器、虛假信息操縱等領域的合作難度較大，因為利益和看法不同，但在“人類掌控世界”這一目標上，可以尋找共識，一起探索防止AI操控世界的方法，這將是人類長期面臨的重要課題。

他呼吁全球建立由各國人工智能安全研究所與國內研究網絡組成的國際社群，研究如何訓練高智能AI向善，各國可在本國主權范圍內研究并分享成果，合作培養不會從人類手中奪權的“好AI”。

“盡管目前還不知道具體怎么做，但這是人類長期面臨的最重要問題，且所有國家都能在此領域合作。”他說。

主辦方供圖