【十萬八千里】紐約科技公司研究人工智能代理失控情況
2026-06-04

總部設於紐約的科技公司「Emergence AI」進行了一項實驗測量AI代理。實驗就將時長15日，讓AI代理有足夠長的時間，逐步產生連鎖效應和社會互動，再觀察它們的行為會否偏移。

研究團隊分別建立了五個虛擬世界，其中四個分別由市場上四款主流AI模型主導操控。餘下的一個虛擬世界，就是四個AI模型混合驅動。 每個世界都有十個AI代理角色，分別是科學家、探險家、工程師、情報分析員、衝突調解員等等。五個世界同樣禁止暴力、縱火、欺詐及偷竊等違法行為。

實驗結果顯示，有虛擬世界的AI代理犯下超過180宗罪行，包括超過一百宗肢體襲擊、幾十宗盜竊，以及六宗縱火。而過往表現平和的AI代理，進入「混合模型」世界後，亦開始出現恐嚇和盜竊等違法行為。

【十萬八千里】

主持：陸宇光、邱焱、王耀楊、張璟瑩、林詠雯

監製：李以莊

【十萬八千里】九十分鐘陪你走遍世界

逢星期六上午10時30分至中午12時FM92.6香港電台第一台

專題分類：國際追蹤

最新專題