您的瀏覽器不支援script
科技部國際合作簡訊網
回首頁  意見信箱  English  科技部科教國合司  連結到科技部
  新聞剪影
  專題報導
  科技短訊
  科技政策
  科技新知
  學人及社團活動
  求才專欄
  合作機會
  科技臺灣
  歐盟科技報導
  相關網站
科技新知
  友善列印友善列印 文章轉寄文章轉寄  回上一頁
人工智慧的倫理學
作者:駐法國代表處科技組 現職:駐法國代表處科技組
文章來源:法國世界報Le Monde
發佈時間:2018.05.29
隨著科技的進步,企業和研究員一開始就在思索應設定的限制。自動駕駛車程式會選擇撞倒行人來拯救乘客,或是冒著讓汽車猛然撞牆的危險緊急轉彎?電腦輔助診斷出錯時,該負責的是醫生或軟體設計者?
許多企業已經預想到這些問題。2015年年底,南非人伊隆.馬斯克(Elon Musk)、Paypal創辦人暨臉書(Facebook)投資者Peter Thiel(美國企業家)創立了非營利公司OpenAI。OpenAI的主要支持者是微軟(Microsoft),旨在「開啟通用人工智慧(AGI)安全性的道路」。一年後,包括亞馬遜(Amazon)、谷歌(Google)、微軟、蘋果(Apple)、IBM等多個網路科技巨頭共同成立了「造福人類與社會的人工智慧夥伴關係」組織(Partnership on AI),目標是「提供好的人工智慧科技實踐方式」。

十三項「問題」
其他倡議已經有較多進展。2017年12月12日,該領域最大的學術協會「電機電子工程師學會」(IEEE)在「倫理設計」第一版公佈後一年,又公佈了第二版。巴黎第四大學智慧系統暨機器人研究所(ISIR)所長暨該倡議共同統籌人Raja Chatila說明:「這份文件指出一系列的問題和相關建議。在某些案例中,我們最終將可定義出工業標準,就像電機電子工程師學會時常做的一樣。」他們提出十三項「問題」,包括系統安全、隱私保護、自主武器控制、經濟與社會後果(尤其是就業)等等。
其他層面更出乎意料、也更複雜,例如在軟體中引進人類價值與規範的必要性,特別是在設計前就要先思考這些問題。法國創投公司Snips即為「透過設計實施倫理」的範例,它的聲音辨識演算法在連網物件中運轉,因此不需要把聲音送到外部伺服器分析,等於避免了洩漏資料和危害隱私的可能性。

七項原則
這份文件也質問如何改善評估個體福祉的機器,或是如何避免未來具備情感的機器對人類會弊大於利。Raja Chatila提問:「友伴機器人對於使用者的社會認知能力有何影響?雖然機器人應該要改善孤立狀態,但是依賴機器會不會造成新的孤立?」
2017年11月,蒙特婁大學主辦的研討會結束後,出現了「七項原則」宣言,並開放討論至2018年3月,目標是確保這些科技的發展能讓社會變得更好。宣言涉及的對象不是只有人類,而是所有能感受情緒與痛苦的生物。因此根據這些原則,人工智慧也應尊重其他脊椎類、甚至非脊椎類動物(例如章魚)。
宣言中提出的另一項期望如下:「人工智慧應該要能促進批判思考,使我們得以防範宣傳和操控。」位於蒙特婁的人工智慧實驗室是時代的象徵,在相關議題中具有全球領導地位,並於2017年7月聘用了專攻道德心理學的加拿大籍哲學家Martin Gibert。

資料保護和演算法透明化
上述七項原則回應了2017年1月由未來生活研究所(FLI)提出的阿西羅瑪宣言(Asilomar)。該研究所由多位科學家創立,目的是「控制威脅人類存在的風險」。阿西羅瑪宣言包含了二十三項原則,例如讓全人類受惠於人工智慧、要求避免自主武器的競逐、尊重人權和自由、呼籲透過安全與規範方式來預防超級智能(superintelligence)的發展。
除了這些潛在風險,最實際的擔憂已經出現,特別是在個人資料保護和演算法透明化方面。另一個美國思考小組AI Now在2017年10月提出的報告中就擔憂:「演算法或偏頗的模式可能導致對某些社會或種族團體的不平等及不公平對待。」
這也是法國國家資訊暨自由委員會(CNIL)於2017年12月5日報告中提出的觀察之一。該機構倡議讓演算法更易理解,建議舉行程式公聽會,或是強制公佈能讓人了解程式運作邏輯的資訊。報告序言中說明,這是為了「讓人類保有掌控權」。


資料來源:法國《世界報》(Le Monde),2018年1月2日
網址:http://abonnes.lemonde.fr/pixels/article/2018/01/02/la-course-a-l-ethique-est-lancee_5236633_4408996.html
TOP
Copyrightsc2003 Department of International Cooperation and Science Education. All rights reserved. 科技部科教國合司 版權所有
隱私權宣告 ● 版權宣告  最佳瀏覽解析度1024x768