可怕：會主動傷害人的機器人誕生！違反機器人第一原則

2016年06月28日 07:30     晨風

　　

　　這台小機器人可能會傷害你！如果你把手指頭放到它面前，它有可能會扎你一下！當然你不會因此而嚴重受傷，只是像驗血一樣會有點刺痛感覺

　　

　　當然這樣的動作不會對人造成什麼傷害，你只會感覺稍有刺痛，手指上被扎出一個非常小的孔。但這樣的威脅性已經足夠高，讓很多人望而卻步

　　新浪科技訊 北京時間6月28日消息，據美國《華盛頓郵報》報道，如果你把手指頭放到亞歷山大·瑞斌（Alexander Reben）的機器人前面，那麼它就有可能會扎你一下！當然你不會因此而嚴重受傷，只是像驗血一樣會有點刺痛感覺。瑞斌設計這個機器人的目的便是造成最小的痛苦，但從技術上說，仍然會對人造成傷害。

　　你真的會流血——如果這小機器人選擇扎你一下，你的手指上會有一小團血滴滲出。到目前為止，這個機器人已經扎了好幾個人的手指頭。但有時候，當你把手指頭放在它面前，這台小機器人卻毫無反應，不會扎你——究竟什麼時候會扎人什麼時候不會呢？

　　沒有人知道答案，即便是設計者也不知道，因為這是隨機的。瑞斌是一名機器人專家，同時也是一位藝術家，居住在美國加州伯克利附近。他對《華盛頓郵報》表示：「我將其視作一種有型的哲學。」瑞斌的這件作品常常將藝術與技術以一種有趣的方式相互混合，得到一種甚至接近詼諧的效果——比如，他曾經設計過一款太陽能的音樂播放器，然後用它播放著《你是我的陽光》（You Are My Sunshine）。

　　然而這台最新的小機器人卻不是為詼諧幽默而設計的。瑞斌在他的網站上表示，這是世界上第一台「自主並有意」違反所謂「機器人第一法則」。這是著名科幻作家阿西莫夫所提出的機器人三法則中的第一條。

　　在1942年發表的短篇科幻故事《環舞》（Runaround）中，阿西莫夫首次明確闡述了他有關機器人三法則的思想，分別論述如下：

　　機器人第一法則：機器人不得傷害人類，或坐視人類受到傷害；

　　機器人第二法則：除非違背第一法則，機器人必須服從人類的命令；

　　機器人第三法則：在不違背第一及第二法則下，機器人必須保護自己；

　　而瑞斌的這個小機器人的做法很顯然是故意傷害人類的，因此很明顯違反了機器人第一法則。但儘管對已經有74年歷史的經典理論構成了挑戰，但實際上這個小機器人的結構設計是非常簡單的。瑞斌最初的設想是一台連著一個金屬臂的「自動梳頭機」，能讓人感到舒服和享受，這是受到了伍迪·艾倫的電影《傻瓜大鬧科學城》（Sleeper）中哪個抱在懷裡就能讓人產生愉悅感受的「快樂球」（pleasure orb）的啟發。人們坐在椅子里，然後瑞斌的梳頭小機器人就會給做頭皮按摩。瑞斌表示，這樣的場景會創造一種人與機器人之間某種令人不安的親密感。他說：「在這種情況下，機器會讓人緊張地發抖。人們會感覺非常非常詭異。」

　　瑞斌隨後將其改造，製作出一個能給人們帶來小小傷害的機器人。整個改造過程花費了數天時間和數百美元。這是一個帶有小小手臂的機器，其底座大小和一張列印紙相差無幾。它安裝了一台微型探測器，能夠檢測是否有人把手指放在了它的機械臂下方。此時，如果小機器人決定要扎他一下，那麼它就會突然快速地紮下去。

　　當然這樣的動作不會對人造成什麼傷害，你只會感覺稍有刺痛，手指上被扎出一個非常小的孔。但這樣的威脅性已經足夠高，讓很多人望而卻步。瑞斌指出：「你很難不感到緊張，渾身冒汗。」他說，但是這背後的原因或許更多的是驚奇，而不是疼痛。

　　但其中最關鍵的一點還在於，正如瑞斌所指出的那樣，這台小機器人做出了要傷害人類的決定，而這與此前所有的機器人都是不同的。他說：「我想到了軍用機器人。但即便是軍用機器人也並不會主動傷害人類。」就拿美軍的「捕食者」無人攻擊機來說，它當然可以發射導彈殺死人類，但做出這項決定的不是「捕食者」無人機本身，而是它背後操控的美軍軍方人員。再比如美國海軍開發的，由雷達控制的自動崗哨炮，它會自動向出現的入侵者開火，但這同樣不是它自己的決定，而是遵循了一系列內部編程所設定的激發閾值條件。在瑞斌看來，這樣的系統並非選擇攻擊，正如並非地雷自己選擇炸死踩上去的人員一樣。

　　而瑞斌設計的這個旨在打破阿西莫夫機器人準則的機器人則完全不同，因為是否扎人的確是機器人自己的決定。放在它手臂下的人類手指會激發小機器人的一系列的軟體程序，最後將輸出扎人或者不扎人的決定。瑞斌表示：「其做出是否扎人的決定過程是我無法預測的。」這台小機器人的內置程序並未採用機器學習或者人工智慧技術用於決策過程，但也並非完全屬於50:50的對半開概率。當被詢問這台小機器人扎人的幾率時，瑞斌說：「我不知道它扎人的概率有多大。」

　　因此，第一台違反理論上原則的機器人已經實實在在地存在了。這是一台真正依賴自身決策的機器人，在跟它們相處的過程中，我們或許時不時地需要帶上創可貼。（晨風）