亚洲综合久久1区2区3区_国产18禁黄网站免费观看_国产电影无码午夜在线播放_曝光无码有码视频专区_《乳色吐息》无删减在线观看

  歡迎您訪問(wèn)上海先予工業(yè)自動(dòng)化設(shè)備有限公司官方網(wǎng)站! 服務(wù)熱線 021-68148262
上海先予工業(yè)自動(dòng)化設(shè)備有限公司
新聞動(dòng)態(tài) NEWS
行業(yè)動(dòng)態(tài) 當(dāng)前位置:首頁(yè) >> 新聞中心 >> 行業(yè)動(dòng)態(tài)>> 詳細(xì)信息
機(jī)器人三定律有瑕疵,授權(quán)理念才能保護(hù)人類(lèi)?
來(lái)源: 日期:2017-7-15 13:57:40 瀏覽次數(shù):62

機(jī)器人三定律有瑕疵,授權(quán)理念才能保護(hù)人類(lèi)?


正如可以保護(hù)你、幫助你、支持你一樣,機(jī)器人也可能會(huì)傷害你。如何構(gòu)建一套放之四海皆準(zhǔn)的機(jī)器人行為原則,是科技工作者不得不面對(duì)的技術(shù)和倫理雙重難題。赫特福德大學(xué)的人工智能學(xué)者ChristophSalge博士撰文分享了自己的思考。


如何避免機(jī)器人傷害他人?許多現(xiàn)有的機(jī)器人,比如在工廠里組裝汽車(chē)的機(jī)器人,在人類(lèi)接近的時(shí)候就會(huì)立即關(guān)閉電源。但是,這種簡(jiǎn)單粗暴的解決方案并不適用于自動(dòng)駕駛汽車(chē),它可能需要在發(fā)生車(chē)禍時(shí)緊急移動(dòng),或者是對(duì)于一個(gè)護(hù)士機(jī)器人來(lái)說(shuō),因?yàn)樗赡苄枰诶先怂さ怪胺銎饘?duì)方。


隨著機(jī)器人成為我們的仆人、伙伴和同事,我們需要處理日益復(fù)雜的情況,以及可能引發(fā)的倫理和安全問(wèn)題??苹眯≌f(shuō)已經(jīng)預(yù)見(jiàn)了這個(gè)問(wèn)題,并提出了各種可能的解決方案。最著名的是阿西莫夫(IsaacAsimov)的機(jī)器人三原則,它們的提出是為了避免機(jī)器人傷害人類(lèi)。自2005年以來(lái),我和我在赫特福德大學(xué)的同事們一直在研究一個(gè)可以替代的想法。


我們認(rèn)為不應(yīng)該限制機(jī)器人的行為,機(jī)器人應(yīng)該被賦予最大限度發(fā)揮它們行動(dòng)能力的權(quán)利,這樣它們就可以為任何特定的場(chǎng)景挑選最好的解決方案。正如我們?cè)谝黄抡撐闹兴枋龅哪菢?,這一原則可能構(gòu)成一套新的通用準(zhǔn)則的基礎(chǔ),以使人類(lèi)盡可能安全。


阿西莫夫的三原則


1.機(jī)器人不可能傷害人類(lèi),或者通過(guò)不作為,讓人類(lèi)受到傷害。


2.機(jī)器人必須服從人類(lèi)的命令,除非這樣的命令與第一定律相抵觸。


3.機(jī)器人必須保護(hù)自己的存在,只要這種保護(hù)不與第一或第二定律相抵觸。


盡管這些原則聽(tīng)起來(lái)相當(dāng)有理,但無(wú)數(shù)批評(píng)已經(jīng)揭示了它的不足。Asimov自己的故事可以說(shuō)就是對(duì)自己所提出的這三項(xiàng)原則的解構(gòu)了,展示了它們?cè)诓煌那闆r下是如何失效的。目前,大多數(shù)試圖起草新指導(dǎo)方針的嘗試都遵循了類(lèi)似的原則,以創(chuàng)造出安全、順從和有效的機(jī)器人。


任何明確制定的機(jī)器人指導(dǎo)方針?biāo)嬖诘囊粋€(gè)問(wèn)題是——我們需要將它們轉(zhuǎn)換成機(jī)器人能夠處理、理解和運(yùn)用的格式。理解人類(lèi)語(yǔ)言和語(yǔ)言背后的生活經(jīng)驗(yàn)對(duì)于一個(gè)機(jī)器人來(lái)說(shuō)是非常困難的。寬泛的行為目標(biāo),例如避免對(duì)人類(lèi)造成傷害或保護(hù)機(jī)器人自身的存在,在不同的情況下可能意味著不同的東西。遵守這些規(guī)則可能最終會(huì)讓機(jī)器人無(wú)法像它的創(chuàng)造者所希望的那樣行事。


新理念:授權(quán)


我們的另一種理念——授權(quán),代表著無(wú)助的反面。被授權(quán)意味著有能力、并意識(shí)到你可以產(chǎn)生影響。我們一直在開(kāi)發(fā)將這個(gè)社會(huì)概念轉(zhuǎn)化為可量化和可操作的技術(shù)語(yǔ)言的方法。這將使機(jī)器人能夠保持它們的選擇,并以一種增加它們對(duì)世界的影響的方式行動(dòng)。


當(dāng)我們嘗試模擬機(jī)器人如何在不同的場(chǎng)景中使用授權(quán)原則時(shí),我們發(fā)現(xiàn)它們通常會(huì)以令人驚訝的“自然”的方式行動(dòng)。它通常只要求他們對(duì)真實(shí)世界的運(yùn)作模式進(jìn)行建模,但不需要任何專(zhuān)門(mén)的人工智能編程來(lái)處理特定的場(chǎng)景。


但是為了保證人們的安全,機(jī)器人需要努力維持或改善人類(lèi)的授權(quán),以及他們自己的賦權(quán)。這基本上意味著要具有保護(hù)能力和支持性。為人打開(kāi)一扇鎖著的門(mén)會(huì)增加他們的賦權(quán)。限制人類(lèi)將會(huì)導(dǎo)致對(duì)機(jī)器人的短期授權(quán)失效。而對(duì)人類(lèi)的嚴(yán)重傷害可能會(huì)完全消除機(jī)器人被賦予的權(quán)力。與此同時(shí),機(jī)器人必須努力保持自身的運(yùn)作力量,例如確保它有足夠的能量來(lái)運(yùn)作,而不會(huì)被卡住或損壞。


機(jī)器人可以適應(yīng)新的環(huán)境


使用這一通用原則,而不是預(yù)先設(shè)定的行為規(guī)則,可以讓機(jī)器人考慮環(huán)境,并評(píng)估人們未曾設(shè)想過(guò)的場(chǎng)景。例如,機(jī)器人不會(huì)總是遵循“不能推人類(lèi)”的規(guī)則,而是會(huì)在人們可能被一個(gè)墜落物砸到之前將他們推出去。人可能仍會(huì)受到傷害,然而這種傷害相比之下更小。


在電影《I,Robot》中,機(jī)器人處在一個(gè)令人壓抑的狀態(tài)中,通過(guò)限制和“保護(hù)”來(lái)減少對(duì)人類(lèi)的整體傷害。但我們的原則是避免這樣的情況,因?yàn)檫@意味著機(jī)器人失去了人類(lèi)的賦權(quán)。


盡管“授權(quán)”提供了一種新的思考安全機(jī)器人行為的方式,但我們?nèi)杂性S多工作要做。我們要提高它的效率,這樣它就可以很容易地部署在任何機(jī)器人上,并外化為機(jī)器人良好、安全的行為。這是一個(gè)非常困難的挑戰(zhàn),但是,我們堅(jiān)信,授權(quán)可以讓我們找到一個(gè)切實(shí)可行的解決方案,來(lái)解決當(dāng)前充滿(mǎn)爭(zhēng)議的問(wèn)題,即如何控制機(jī)器人的行為,以及如何讓機(jī)器人——在最基本的意義上——“具備道德倫理”。


上一條:在投資領(lǐng)域 機(jī)器人產(chǎn)業(yè)或?qū)②s超VR
下一條:您知道標(biāo)準(zhǔn)清洗機(jī)設(shè)備和非標(biāo)清洗機(jī)設(shè)備的區(qū)別在哪里嗎?
【刷新頁(yè)面】 【關(guān)閉窗口】
荣成市| 泾阳县| 安乡县| 且末县| 油尖旺区| 麟游县| 屏东市| 彰武县| 武汉市| 社会| 阳原县| 敖汉旗| 福安市| 尖扎县| 苏尼特右旗| 内乡县| 竹北市| 增城市| 中牟县| 西乡县| 宁阳县| 宝丰县| 海原县| 化德县| 尚志市| 胶南市| 皮山县| 重庆市| 芜湖市| 阿尔山市| 阿坝| 扶沟县| 湘西| 平阴县| 南平市| 九寨沟县| 新昌县| 图片| 姚安县| 宝兴县| 荣成市|