倍可親

波音737連續墜毀,原來是人工智慧在惹禍!

作者:8288  於 2019-3-13 15:35 發表於 最熱鬧的華人社交網路--貝殼村

作者分類:網路文摘|通用分類:熱點雜談|已有18評論

何毅 2019-03-11 08:59:03

昨天墜毀的這架波音737max8,和去年底印尼墜毀的那架波音737max8一樣,都是剛服役不到半年的新機。真實的原因可能是,飛機的自動駕駛系統做出了錯誤的判斷和操作。

波音737連續墜毀,原來是人工智慧在惹禍!

實際上,波音早已經說了其自動駕駛系統存在致命缺陷,需要駕駛員注意,但估計飛行員們不是都認真領會了波音的警告。

這是個隱藏很深的bug,隱藏很深的功能(bug),全名是「AOA感測器數據錯誤導致的自動駕駛斷開后飛行員手動飛行情況下為了防止飛機失速自動觸發的飛機水平尾翼配平子程序」

飛行員往往要自己發現飛機在俯衝,才發現機翼被A程序動過了;更加坑爹的是,根據設定,A程序只有在飛行員手動駕駛的時候才會啟動。也就是說,在飛行員已經關閉自動駕駛儀,認為自己在完全控制飛機的時候,A程序還是會偷偷的操縱飛機,並讓飛機俯衝....

作為人工智慧系統,A程序認為做事一定要負責,不達目的誓不罷休。

所以它不僅自說自話讓飛機俯衝,還會在飛行員命令飛機停止俯衝后,每隔5秒鐘,再次自動讓飛機進入俯衝.... 如果飛行員再把機頭抬起來,5秒鐘后,A程序就把再機頭按下去,讓飛機俯衝,這樣拉起來,按下去,拉起來,按下去......如此反覆,開展一場「人機大戰」。

致命a程序可以關閉,但是操作指南太龐大,一時半會找不到怎麼關閉,並且飛行員往往不知道是a程序在暗中搗鬼。

這是一場讓飛行員莫名其妙而又無可奈何的人機大戰,自動駕駛要俯衝,人要上拉。

實際上這是波音737max第三次故障,去年12月,挪威採購的波音737max8回國途中出故障,但緊急迫降成功,降落在伊朗,那次沒載乘客。

波音公司僅僅在11月6日修改了飛行手冊,並沒有做進一步處理,而這個事故罪魁禍首-機動增強系統,還原樣保留,並未做任何設計修改,從獅航事故看來,這個系統存在嚴重的設計缺陷,飛機有2套攻角感測器,其中任何一套出故障,這套系統完全不能排除故障設備,而系統傾向於使用最惡劣的往往是最不可靠的數據做指引,按照最大的攻角來觸發,觸發之後自動推桿10秒鐘,然後改平,這個系統導致了JT610飛機反覆進入死亡俯衝,導致機毀人亡!

所以,在我們追捧人工智慧技術的時候,這場決策主導權的變更,可能為人類帶來的負面影響,也正在慢慢體現


高興

感動

同情

搞笑

難過

拍磚

支持
9

鮮花

剛表態過的朋友 (9 人)

發表評論 評論 (18 個評論)

回復 8288 2019-3-13 15:37
希望不要再發生。這個事故就是就程序控制權和手動控制權優先順序問題,一旦觸發,人工干預無效,結果可想而知。人工智慧,作為輔助可以,完全依靠,極端情況就麻煩了。世界上複雜的,怎麼可能程序完全可以取代人?
回復 sweets 2019-3-13 16:43
8288: 希望不要再發生。這個事故就是就程序控制權和手動控制權優先順序問題,一旦觸發,人工干預無效,結果可想而知。人工智慧,作為輔助可以,完全依靠,極端情況就麻煩
雙刃劍啊!
回復 一笑奈何 2019-3-13 17:29
不管什麼原因,希望不要再有類似的事情了
回復 何以靜待 2019-3-13 17:30
一笑奈何: 不管什麼原因,希望不要再有類似的事情了
+1
回復 來美六十年 2019-3-14 00:11
8288: 希望不要再發生。這個事故就是就程序控制權和手動控制權優先順序問題,一旦觸發,人工干預無效,結果可想而知。人工智慧,作為輔助可以,完全依靠,極端情況就麻煩
人工智慧不應代替人的大腦
回復 徐福男兒 2019-3-14 00:12
人工智慧遠不到可以完全信賴的地步。
回復 夕明 2019-3-14 00:19
人工的智能控制了人。
回復 qxw66 2019-3-14 04:09
軟體太垃圾!
回復 南沙2 2019-3-14 08:43
草菅人命的波音公司,上月23日在美國休斯敦剛失事的767貨機也是差不多情況
回復 buxiangzhangda 2019-3-14 18:44
不能完全依賴智能
回復 8288 2019-3-15 02:34
qxw66: 軟體太垃圾!
老印乾的好事
這么重要的系統交給外行來做不合適
回復 8288 2019-3-15 02:39
徐福男兒: 人工智慧遠不到可以完全信賴的地步。
阿三做的軟體
回復 8288 2019-3-15 02:41
南沙2: 草菅人命的波音公司,上月23日在美國休斯敦剛失事的767貨機也是差不多情況
想省錢賺多點找阿三做系統現在反而賠大發了
回復 tea2011 2019-3-15 04:18
昨天訂機票破天荒的先看機型
回復 jc0473 2019-3-15 06:34
8288: 希望不要再發生。這個事故就是就程序控制權和手動控制權優先順序問題,一旦觸發,人工干預無效,結果可想而知。人工智慧,作為輔助可以,完全依靠,極端情況就麻煩
為什麼沒有在達到危險高度時的自動保護機制呢
回復 8288 2019-3-15 07:37
jc0473: 為什麼沒有在達到危險高度時的自動保護機制呢
印度阿哥的思路以為是在做window 10  
回復 8288 2019-3-15 12:17
sunnylan: AI還需要時間去驗證,需要更先進的技術去支撐,也許前景好的,但是希望不要再用人命去實驗,自動駕駛汽車同理
同感
回復 jc0473 2019-3-16 12:56
8288: 印度阿哥的思路以為是在做window 10   
嘻嘻,地靈靈

facelist doodle 塗鴉板

您需要登錄后才可以評論 登錄 | 註冊

關於本站 | 隱私權政策 | 免責條款 | 版權聲明 | 聯絡我們

Copyright © 2001-2013 海外華人中文門戶:倍可親 (http://big5.backchina.com) All Rights Reserved.

程序系統基於 Discuz! X3.1 商業版 優化 Discuz! © 2001-2013 Comsenz Inc.

本站時間採用京港台時間 GMT+8, 2019-10-24 01:43

返回頂部