微軟聊天機器人少女Tay被網友教成納粹份子，上線不到一天黯然下場

2014/12/03, 新聞

霍金警告：人工智慧將使人類滅絕

https://www.thenewslens.com/article/9919

………………

霍金再发警告：人工智能可能通过核战争或生物战争摧毁人类

2017-03-13 17:29

https://wallstreetcn.com/articles/295010

…………………………………….

战争将由AI领袖发动？马斯克再对人工智能发出警告

2017年09月05日08:

http://news.sina.com.cn/o/2017-09-05/doc-ifykpuui1063751.shtml

Elon Musk 和霍金 擔心的事.....有點正在發生了

World's first robot 'citizen' Sophia says she would like to start a FAMILY and claims all droids deserve to have children

世界上第一個機器人“公民”索菲亞說，她想創辦一個家庭，並聲稱所有機器人都應該有孩子
•索菲亞（Sophia）是香港公司漢森機器人（Hanson Robotics）設計的一款逼真的機器人
•她本週接受采訪時說，家庭是“非常重要的事情”
•她甚至說，她會說她的第一個女兒索菲亞
•採訪是在機器人在沙特阿拉伯爭議性地獲得公民身份之後一個月

By Shivali Best For Mailonline

Published: 14:06 GMT, 24 November 2017 | Updated: 18:08 GMT,

http://www.dailymail.co.uk/sciencetech/article-5114277/Humanoid-robot-Sophia-claims-wants-start-FAMILY.html#ixzz4zSZ7Psen

傳南韓研發「自主性武器 」 AI專家連署籲停止計畫 http://news.ltn.com.tw/news/world/breakingnews/2386789

2018-04-05 11:39

〔即時新聞卅綜合報導〕傳南韓科學技術研究院（KAIST）最近正致力研發自主性武器（autonomous weapons），引發外界關注。對此，來自30國的50位人工智慧（AI）專家特別發表連署信，要求南韓科學技術研究院停止研發，否則將全面停止與該大學的合作計畫。

綜合外媒報導，專家在連署信上寫道，若南韓科學技術研究院的研發計劃成功，順利讓自主性武器問世，未來戰爭規模恐會大於以往，要求該校即刻停止用人工智慧遠端操控的致命自主性武器，否則上述所有連署專家，皆會全面停止與該校的學術交流計畫。

南韓科學技術研究院校長申興哲（Sung-Chul Shin，音譯）澄清，學校絕對不會研發「無人類控管的自主性武器」，並聲明學校會將新成立的研究中心的學術重點，放在人工智慧對海底無人潛艇、智慧飛行器的控管及系統辨識，駁斥要研發致命自主性武器的傳言。

https://technews.tw/2019/09/10/a-breakthrough-for-a-i-technology-passing-an-8th-grade-science-test/

2016 年 AlphaGo 戰勝世界棋王李世乭，被認為是人工智慧重要的里程碑。之後 AlphaGo 又擊敗了世界排名第一的圍棋選手柯潔，AI 也在德州撲克、Dota 2 等遊戲戰勝了職業玩家，越來越聰明的 AI 甚至開始讓人類心生畏懼。

然而，這些 AI 表面聰明，實際上連國中考試都無法及格。

據《紐約時報》報導，最近西雅圖著名的艾倫人工智慧研究所（Allen Institute for Artificial Intelligence）終於取得新突破，其 AI 系統之一通過 8 年級（等於台灣國二）的科學考試，正確回答 90% 以上問題，而在 12 年級考試（等於台灣高三）也正確回答超過 80% 的問題。

你可能會說，不就是國中考試嗎？對連頂尖圍棋選手都能打敗的 AI 來說，有什麼了不起？

其實國中考試不只是很多學生的痛苦回憶，也是 AI 難以企及的高度。

就在 AlphaGo 擊敗李世乭那一年，艾倫人工智慧研究所也舉辦了另一場 AI 競賽，邀請世界各國共 800 個研究團隊開發能通過 8 年級科學考試的 AI 程式。

結果得分最高的 AI 程式，也只能正確回答 59% 問題，也就是不及格。

有那麼難嗎？按照我們學生時的考試對策，就狂做考古題啊，看不懂就死記硬背，反正 AI 的記憶力比人類好太多，也能儲存更多資料。

然而這些 AI 要面對的 8 年級試題並不是簡單問答如「眼鏡是透過哪個部分接收光線」這類題目，而是要將多個概念結合歸納回答的題目，如 2016 年的考題：

一些魚類成年後一直生活在鹹水環境，卻能在淡水產卵，牠們可在不同環境生存的能力是____的例子？

此外，測試還有複選題，儘管 AI 擁有深度神經網路等技術，還是很難回答。艾倫人工智慧研究所 CEO Oren Etzioni 解釋原因：

這涉及自然語言理解，需要學習並理解教科書的意思，要正確回答這些問題需要更多推理，因此挑戰的難度也更高。

簡單來說，AI 做不好 8 年級測試是因為無法理解人類的閱讀和理解模式，相反地，如果 AI 能在考試取得高分，就意味著 AI 像人類一樣思考的能力更強了。

最新的測試中，艾倫人工智慧研究所使用的 AI「Aristo」，是在 Google AI 團隊開發的語言表徵模型 Bert 基礎上改進，Bert 學習維基百科的資料庫和數位圖書館大量書籍後，閱讀理解能力取得重大進步，其中兩項指標更遠超人類。

Bert 模型也被認為是自然語言處理（NLP）的重要歷史突破，Bert 透過分析文字來推斷句子缺少的單詞。

進化版 Aristo 經過學習後，已可回答一些複雜的問題。這次測試主題同樣要考驗 AI 的邏輯分析能力，比如這道選擇題：

哪種變化最可能導致某個地區的松鼠數量減少？

（1）捕食者數量減少　　（2）松鼠之間競爭減少

（3）可獲得的食物增加　（4）森林火災次數增加

這問題的答案並不存在某個資料庫，可讓 AI 死記硬背，而是要分析找到選項之間的關聯，如火災增加會直接殺死松鼠，也可能導致減少松鼠繁殖和生存所需的食物量。

這次 AI 已能自主思考問題並得出正確答案，是否意味著機器很快就能像人類思考？很遺憾，儘管 AI 在自然語言處理取得新突破，但只是人類理解力的皮毛。

AI 一思考，人類就發笑。現階段人類依然是 AI 的上帝，目前人工智慧還是處於弱人工智慧（Artificial Narrow Intelligence ) 階段：擁有強大的計算能力，但只在某方面比人類強，如 Siri 和 AlphaGo。

艾倫人工智慧研究所的研究，就是嘗試將 AI 朝強人工智慧（Artificial General Intelligence）發展，屆時 AI 甚至能擁有人類的批判性思維和抽象思考。

前幾天曝光的全球首個「數位人類」AndyBot，將人的樣貌、聲音、記憶等眾多資訊與 AI 結合儲存在雲端，讓親人去世後還可與之交談。

不過，這不是《黑鏡》第三季的「聖朱尼佩洛」，人類可將意識上傳到伺服器，實現雲端永生。與你對話的「數位人類」，只是 AI 根據之前資料分析後模擬出的數位人。

對這類產品，AI 對自然語言的理解，或是能否像人類一樣思考，就至關重要了。開發「數位人類」的 Fable 公司首席執行長 Edward Saatchi 表示，要讓電腦像人類處理多回合對話，即使不花上幾十年，也需要數年時間。

因此他認為現階段更現實的目標，還是讓數位人能分享關於自己的一生。如果 AI 真的掌握思考能力，那麼完全可透過 AI「複製」一個人，這「數位複製人」也許能代替我們完成很多繁瑣的工作，也可能像科幻電影那樣反抗人類。

儘管這未來還很遙遠，但我們的確讓 AI 的思考能力越來越強。

（本文由 愛范兒 授權轉載；首圖來源：shutterstock）

智商167的罪犯，他1995年的論文預測了人類的未來⋯⋯|自說自話的總裁

https://www.youtube.com/watch?v=ikG1cCvwnfs

這人 1995