昨天墜毀的這架波音737max8,和去年底印尼墜毀的那架波音737max8一樣,都是剛服役不到半年的新機。真實的原因可能是,飛機的自動駕駛系統做出了錯誤的判斷和操作。
實際上,波音早已經說了其自動駕駛系統存在致命缺陷,需要駕駛員注意,但估計飛行員們不是都認真領會了波音的警告。
這是個隱藏很深的bug,隱藏很深的功能(bug),全名是「AOA感測器數據錯誤導致的自動駕駛斷開后飛行員手動飛行情況下為了防止飛機失速自動觸發的飛機水平尾翼配平子程序」
飛行員往往要自己發現飛機在俯衝,才發現機翼被A程序動過了;更加坑爹的是,根據設定,A程序只有在飛行員手動駕駛的時候才會啟動。也就是說,在飛行員已經關閉自動駕駛儀,認為自己在完全控制飛機的時候,A程序還是會偷偷的操縱飛機,並讓飛機俯衝....
作為人工智慧系統,A程序認為做事一定要負責,不達目的誓不罷休。
所以它不僅自說自話讓飛機俯衝,還會在飛行員命令飛機停止俯衝后,每隔5秒鐘,再次自動讓飛機進入俯衝.... 如果飛行員再把機頭抬起來,5秒鐘后,A程序就把再機頭按下去,讓飛機俯衝,這樣拉起來,按下去,拉起來,按下去......如此反覆,開展一場「人機大戰」。
致命a程序可以關閉,但是操作指南太龐大,一時半會找不到怎麼關閉,並且飛行員往往不知道是a程序在暗中搗鬼。
這是一場讓飛行員莫名其妙而又無可奈何的人機大戰,自動駕駛要俯衝,人要上拉。
實際上這是波音737max第三次故障,去年12月,挪威採購的波音737max8回國途中出故障,但緊急迫降成功,降落在伊朗,那次沒載乘客。
波音公司僅僅在11月6日修改了飛行手冊,並沒有做進一步處理,而這個事故罪魁禍首-機動增強系統,還原樣保留,並未做任何設計修改,從獅航事故看來,這個系統存在嚴重的設計缺陷,飛機有2套攻角感測器,其中任何一套出故障,這套系統完全不能排除故障設備,而系統傾向於使用最惡劣的往往是最不可靠的數據做指引,按照最大的攻角來觸發,觸發之後自動推桿10秒鐘,然後改平,這個系統導致了JT610飛機反覆進入死亡俯衝,導致機毀人亡!
所以,在我們追捧人工智慧技術的時候,這場決策主導權的變更,可能為人類帶來的負面影響,也正在慢慢體現