家用AI機器人時代將臨 當心「可愛到危險」

現在家中最常見的機器人莫過於掃地用的「Roomba」，新一代家用機器人則可能擁有更可愛的外型、搭載先進的AI技術，但背後也恐存在安全風險，甚至情感上的隱患。

華爾街日報報導，安格爾(Colin Angle)1990年聯合創立iRobot公司、2002年推出第一款Roomba，現在則是新創公司Familiar Machines & Magic的執行長，上個月發布「Familiar」的原型，這是一款有著動物外觀、覆蓋一層人造毛髮的機器人，會模仿真正的寵物，配備了接收音訊的「耳朵」和AI系統，能夠理解用戶說的話，並學習周遭人群的行為。

連網的家用電子產品都可以被駭客遠端入侵，近期研究指出，引入AI只會加劇這些漏洞。而Roomba若被駭客入侵，最糟糕的後果也不過是在樓梯附近絆倒用戶，但「Familiar」能做的事更多，據稱其「移動靈活，可以跟你進廚房，或者把你從沙發上拽起來散步」，那麼被駭後的行為令人不敢細想。

Familiar Machines & Magic發言人表示，出於這個原因，該產品的系統設計盡可能在本地網路運行，預設不會將任何資料發送到雲端，若要連網也會請求許可。

社交機器人專家達林(Kate Darling)在2021年出版的書中指出，人們很容易與擬人化機器建立情感連結。就算是Roomba這種扁平圓型、只會掃地的機器人，也有用戶幫它們取名、帶它們去度假，甚至組織Roomba聚會。

東北大學專門研究擬人化機器人的法學與電腦科學教授哈佐格(Woodrow Hartzog)表示，這些都是製造人性脆弱的工具，「即便我們知道陪伴我們的只是個機器人，也無法阻止自己被操控。」

Familiar Machines & Magic發言人表示，任何旨在與人類進行社交互動的技術都應該受到嚴格審查，強調該機器人是為了提供陪伴與存在感，而非爭奪注意力。它沒有廣告模式，不以參與度驅動，沒有任何鼓勵加長螢幕使用時間或互動時間的獎勵機制。

雖然科技公司都會保證隱私及安全，但一個能夠訪問大型語言模型(LLM)、網際網路及網路中所有其他機器人的產品，能做的事顯然遠多於家中任何寵物，如何避免各式隱患、讓用戶安心使用，將是此類產品的最大挑戰。