谷歌起草“機器人憲法”，以確保AI機器人不會傷害人類

  ICC訊 谷歌旗下 DeepMind 公司近日公布了三項新進展，其中之一針對收集訓練數(shù)據(jù)的系統(tǒng)，起草了“機器人憲法”，確保 AI 機器人不會傷害人類。

  谷歌的數(shù)據(jù)收集系統(tǒng) AutoRT 可以同時利用視覺語言模型（VLM）和大型語言模型（LLM），以理解其環(huán)境，適應陌生環(huán)境，并決定適當?shù)娜蝿铡?

  本次起草的“機器人憲法”受艾薩克 阿西莫夫的“機器人三大定律”啟發(fā)，圍繞著安全出發(fā)，指示 LLM 避免選擇涉及人類、動物、尖銳物體甚至電器的任務。

  DeepMind 表示為了提高安全性，編程限制了機器人的關節(jié)，力超過一定閾值時自動停止，此外還配有專門的物理緊急停止開關。

  谷歌表示在過去 7 個月的時間里，部署了一支由 53 臺 AutoRT 機器人組成的機群，分別部署在四個不同的辦公樓，并進行了超過 77000 次試驗。

  一些機器人由人類操作員遠程控制，而另一些則根據(jù)腳本或完全自主地使用谷歌的機器人變形器（RT-2）人工智能學習模型運行。

  試用中使用的機器人看起來更實用而不是花哨 —— 只配備了攝像頭、機械臂和移動底座。對于每個機器人，系統(tǒng)使用 VLM 來理解其環(huán)境和視野內(nèi)的物體。接下來，LLM 提出了機器人可以執(zhí)行的創(chuàng)造性任務清單，比如將零食放在臺面上，并扮演決策者的角色，選擇機器人執(zhí)行的適當任務。

  從報道中獲悉，DeepMind 的另一項新技術是 SARA-RT，這是一種神經(jīng)網(wǎng)絡架構，可以比現(xiàn)有的 Robotic Transformer RT-2 更準確，速度也更快。

  谷歌還宣布了 RT-Trajectory，添加了 2D 輪廓，以幫助機器人更好地執(zhí)行擦桌子等特定的物理任務。