人工智能出現(xiàn)倫理新問題：機器人學習不良行為無人駕駛故意違規(guī) _人工智能

文/超腦智能
當全球科技界都熱捧人工智能之際，一個隱含的危機正在發(fā)生，在機器人身上也會發(fā)生倫理問題，不僅會學習不良行為，而且還可能患抑郁、強迫癥等心理疾病，甚至抓狂。
美國三位人工智能安全研究人員合作發(fā)布了的一篇新論文《Atoin AI and AGI》，如果AI學會像人一樣思考，那么有朝一日它也可能會身患壓力和抑郁癥等癥狀。
【人工智能出現(xiàn)倫理新問題：機器人學習不良行為無人駕駛故意違規(guī)】1、機器人懂得察言觀色耍小聰明故意制造事端
AI可能會做一些表面服從而背后偷偷耍小聰明的事。舉個例子，一個清潔機器人被程序設定為每次完成清理時都會收到獎勵。那么，與其保持一片無瑕的區(qū)域，它可能會更樂于反復地制造混亂，這樣它就能在每次清理時獲得獎勵。
2、學習別人的不良行為
MIT（麻省理工學院）的科學家故意創(chuàng)造了一個不正常的AI ，通過給它灌輸論壇里魚龍混雜的評論，導致它的行為活像一個精神病患者。巧合的是，微軟也做了類似的工作，即讓一個名為Tay的聊天機器人學習用戶們的評論方式。
3、機器人可能有抑郁癥表現(xiàn)
葡萄牙尚帕利莫中心（the）的神經(jīng)科學家推測道，如果機器人的學習速率被設置的太低，它很可能無法適應周圍環(huán)境。就像一個人不能夠盡快的適應新環(huán)境，在新環(huán)境中面對眾多新壓力無法及時處理，甚至自我排解，最終都可能導致抑郁癥。
4、機器人有可能對人類做出虐心舉動
有一個比較有意思的事情是與李世石、柯潔對弈時，機器處于理智的狀態(tài)，科學家提出了一種非理智的假設，如果當時的阿爾法狗胡亂下棋，不按照套路下棋人工智能，又會出現(xiàn)什么景象？科學家認為如果這樣的話，無論是李世石還是柯潔，或者在網(wǎng)上面對的真人選手，可能會出現(xiàn)抓狂的情況， “機器人用這種方式虐心”，讓人類處于崩潰的狀態(tài) 。
5、無人駕駛帶來的交通隱患無人大貨車可能故意違章剮蹭小轎車
在無人駕駛（自動駕駛）被阿里巴巴、百度、谷歌（）、豐田、特斯拉等互聯(lián)網(wǎng)和汽車企業(yè)競相追捧之際，他們也忽略了新的隱患，那就是自動駕駛的系統(tǒng)有可能故意制造交通事故，科學家將這種現(xiàn)象稱為“機器人精神病”，“完全不按照交通規(guī)則行駛”是非常可怕的，尤其包括京東、谷歌在內(nèi)的企業(yè)正在做大貨車無人駕駛，這種大貨車行走在高速公路上，如果故意對小型汽車做出別車、剮蹭等行為，會是非常嚴重的后果。
未來的新職業(yè)，誕生人工智能心理學家，專門給機器人治病
由于人工智能要像人一樣具有自主思考人工智能，自我創(chuàng)造力，擁有自己的智慧，所以在科學家的眼里，他們生病也是正常情況，基于這樣的背景，科學家認為未來人工智能除了會替代一部分重復性的人類工作，還會衍生出人工智能心里學家，專門給機器人治?。??庵忠繳?饕?峭ü?惴ㄎ??魅酥尾?。
關鍵詞：人工智能、人工智能倫理、無人駕駛、、谷歌、
本文到此結(jié)束，希望對大家有所幫助。

人工智能出現(xiàn)倫理新問題：機器人學習不良行為 無人駕駛故意違規(guī)

人工智能出現(xiàn)倫理新問題：機器人學習不良行為無人駕駛故意違規(guī)