機器人三大定律 - 駭客任務

※ 引述《logs (龍劍飛)》之銘言：
: 1) 機器人不能傷害人類，或是眼見人類受到傷害而不予行動
: 2) 機器人應該遵從人類的指令，除非指令與第一條定律相衝突
: 3) 只要不違反第一和第二定律，機器人必須保護自身的存在
: from: Isaac Asimov 的《I, Robot》
: [略]
: 尤其是原本一直被視為人民安全保姆的機器人
: 怎麼能攻擊人類？完全不合理
: 除非有不肖人士把該晶片移除
: 有鑑於此，我懷疑那不是機器人的反撲
: 應該是宗謀殺案才對
: 只是柯南／金田一在那時候老早就完結篇了
: 沒法揪出壞人
: 使得全人類幾乎變成金頂電池去

你講的是機器人的設定，
不過在 AI 領域內的研究，為了探索人類的思考模式，
許多研究是以完全類似人類思考模式來設計 AI 的，

例如說，Agent 是自利的 (self-interested agents),
甚至是情感豐富的 (sentimental agents)，

如果我沒聽錯的話，Morpheus 好像說過 AI 的成功是
創造出 sentimental programs （具有感情的程式）。

sentimental 的另一層意思，就是該程式會受到情緒的影響，
而超越單純的機器人思考模式，
如果人類真的能創造出這種程式，
也等於找到了人類意識的 "對等" 程式。

換句話說，你將會無法分辨這個程式和人之間的差異，
這將是資訊科學界的大事，
因為資訊科學界最崇敬的大師 圖寧 (Turing) 一生的目標，
就是設計出人類無法藉由測試去分辨究竟是人還是程式的程式。
（著名的圖寧測試 Turing Test）



--