研究人員開發(fā)“失憶棒”防止人工智能脫離控制
 

據英國《每日郵報》12月5日報道，研究人員通過開發(fā)類似“記憶清除”的新系統(tǒng)來防止人工智能(AI)干預人類的控制，以防AI反控人類。

人工智能機器人可以從自身行為的結果中學習，以提高自己的能力，但專家說，這種特性可能導致AI的學習“無法停止”。現(xiàn)在，AI研究人員開發(fā)了一種新系統(tǒng)，他們把它比作電影《黑衣人》里能清除記憶的“失憶棒”，通過刪除AI的部分記憶來中斷它的學習，而不破壞它的學習方式。

瑞士洛桑聯(lián)邦理工學院分布式編程實驗室的教授RachidGuerraoui說，“人工智能將尋求方法避免人類干預，創(chuàng)造一種人類無法阻止的情況。”研究人員稱，必須開發(fā)新系統(tǒng)，防止AI繞過人類指令。

Guerraoui說：“我們面臨的挑戰(zhàn)不是阻止機器人學習，而是把它編程。這樣一來，中斷不會改變它的學習過程，也不會誘導它去優(yōu)化自身行為，從而避免AI的學習被阻止。”