K島歪串日常：「Vivy -Fluorite Eye's Song-」談AI的可能性

《Vivy -Fluorite Eye’s Song-》是2021年播映的日本原創電視動畫。故事設定在一個 AI 技術得到高度發展的社會。劇情是該社會像電影「魔鬼終結者」一樣出現 AI 開始消滅人類的開局。松本博士在絕境之中開發出時間跳躍裝置，將一個神秘的 AI 個體傳送回到100年前，希望它能找到改變 AI 發展歷史的機會。

No.2457381  

機械就是機械，只有0和1，對和錯，正確和不正確，有和沒有，沒有什麼可能性
這對博士這種科學家來說就是無可動搖的真理一樣的東西
當他覺得機械存在什麼可能性的時候，就表示他腦袋出問題了

這位島民的說法，在邏輯上來說沒錯。但是，他不懂資訊系統。

先別提 AI ，就說一般的軟體就好。你知道現在的軟體存在多少bug嗎？ 或者套一句軟體開發界的笑話: 「那不是bug，那是feature」。 大型軟體的內容複雜到沒有開發者敢說自己的軟體沒有任何 bug 。 bug 就是可能性。

再回來談 AI 系統。現在主流的 AI 系統是走類神經網路學習路徑方式。 按 Wiki 的說法，基於這種技術開發的 AI 系統「共同點是：非線性、分散式、並列化，局部性計算以及適應性。 它依賴於學習而不是編程，並且它從根本上就是類比的而不是數位化的」。

因此有趣的是，這類系統的開發者其實搞不清楚 AI 在過程中到底學了什麼，也無法在設計時就保證結果是什麼。 並不是一般人以為的可預期。

我曾用 tensorflow 和 OpenCV 做過粗淺的即時影像物體形狀辨識工作。 光是參數調整就是一件很枯燥的作業。辨識結果也常常出乎意料。 狀況常常是，我上一次跑辨識工作，看 A 正確、看 B 錯誤。 當我調整參數之後，看 B 正確了。但你以為我能安心了嗎？錯，這次換看 A 錯誤了。 每當此時，我都不覺得我是在寫程式，而只是用試誤法找一個最接近預期結果的參數組合。

要說這種東西不存在可能性？ 我是不信的。