防偽查詢
產(chǎn)品分類
QQ在線
聯(lián)系方式
深圳市豹點科技有限公司
地 址：深圳市南山區(qū)桃園路
田廈國際中心B座1235
郵 編：518052
聯(lián)系人：李先生
電 話：189 4870 7815
手 機：189 2467 2967
傳 真：0755-8670 3785
E-mail：felix411@cnbaod.com
網(wǎng) 址：www.cocosms.cn
內(nèi)容編輯如何阻止機器人傷害人？現(xiàn)在的許多機器人，比如在工廠里組裝汽車的機械臂，當人類靠近時，它們會馬上停機。但這種機制在某些地方并不適用，比如需要快速移動來避免碰撞的無人駕駛汽車，或者需要扶起摔倒老人的護理機器人。隨著機器人技術(shù)的快速發(fā)展，它們將成為我們的仆人、伴侶還有同事，我們需要應對日益復雜的形勢，將會面臨更多的道德和安全問題。
科幻已經(jīng)設想了這個問題，并提出了各種潛在的解決方案，其中最著名的是Isaac Asimov的機器人三定律，旨在防止機器人傷害人類。但現(xiàn)實表明，機器人三定律在很多時候并不管用，從2005年開始，我和赫特福德大學的同時一直在研究一個可替代的解決方案。
我們認為，規(guī)則不應該限制機器人的行為，而應該賦予機器人更大的自主性，讓他們在任何場合都能合理選擇最佳解決方案。正如我們在Frontiers上發(fā)表的一篇新論文描述的那樣，這一原則可以構(gòu)成一套新的機器人普遍指導原則，以盡可能地保護人類的安全。
機器人三定律
阿西莫夫的機器人三定律是這樣描述的：
? 機器人不能傷害人類，也不能明知人類受傷害而袖手旁觀；
? 機器人必須服務人類的命令，除非這些命令與第一定律相沖突；
? 在不違反第一、第二定律的前提下，機器人應保證自身安全。
這些規(guī)則聽起來似乎很合理，但無數(shù)的事實證明他們?nèi)源嬖诤芏嗖蛔?。阿西莫夫的小說可以說是最好的反證，它們證明在很多情況下機器人三定律都是不起作用的。大多數(shù)新起草的規(guī)則都遵循類似的原則以構(gòu)建更安全、合規(guī)而穩(wěn)定的機器人。
所有制定出來的機器人指南都存在一個問題，那就是如何轉(zhuǎn)化為機器人可以執(zhí)行的格式。理解人類的所有語言以及它所代表的經(jīng)驗，對機器人來說是非常困難的事情。廣義的行為目標，比如不得傷害人類，或保護機器人的安全，在不同的情況下可能意味著不同的內(nèi)容。遵守這些規(guī)則，最終可能讓機器人束手無策，并不能達成創(chuàng)造者的目的。
我們的另一個概念，授權(quán)代表的是無助的反面。被授權(quán)意味著有能力該表狀況，并意識到你可以。我們一直在研究如何將這種社會概念轉(zhuǎn)化為可量化和可操作的技術(shù)語言。這將給機器人帶來啟發(fā)，以保持他們的選擇開放，并采取行動，增強他們對世界的影響力。
當我們嘗試在各種場景中模擬機器人如何使用授權(quán)原則時，我們發(fā)現(xiàn)他們通常會以驚人的“自然”方式行事。通常只需要他們來模擬現(xiàn)實世界的工作原理，但不需要專門的人工智能編程來處理特定的場景。
但是為了保護人們的安全，機器人需要努力維護或改善人類授權(quán)以及自己的能力。這基本上意味著保護和支持。為某人打開一扇鎖好的門將增加他們的授權(quán)。限制他們將導致授權(quán)短期喪失。嚴重傷害可以徹底取消他們的授權(quán)。同時，機器人必須努力保持自己的授權(quán)，例如確保它具有足夠的操作能力，并且不會卡住或損壞。
不墨守陳規(guī)，機器人要適應新情況
使用這種一般原則而不是預定義的行為規(guī)則，將允許機器人考慮前因后果，并評估以前沒有設想的情況。舉個栗子，不是一味遵守“不推人”的規(guī)則，機器人通常不推人，但當有物體掉落要砸到人的時候例外。這樣人類仍然可能會受傷，但會比被東西砸到的傷害要小得多。這就讓我想起了昨天的一個新聞，俄羅斯的一個機器人伸手扶住即將倒下的貨架，救下了一個調(diào)皮的孩子，盡管這個新聞有可能只是機器人公司的作秀，但我們想要的效果就是這樣的。
根據(jù)阿西莫夫的短篇小說集改編的電影《我，機器人》中，機器人創(chuàng)造了一種壓迫狀態(tài)，它可以通過限制和“保護”來盡可能降低對人類的總體傷害。但是，我們的原則將避免這種情況，因為這意味著喪失人類的授權(quán)。
雖然授權(quán)為安全的機器人行為提供了一種新的思維方式，但我們?nèi)杂性S多工作要做，以提高其效率，這樣它就可以很容易地部署到任何機器人上，并在各方面轉(zhuǎn)化為良好和安全的行為。但是，我們堅信，授權(quán)可以引導我們找到一個切實可行的解決辦法，以解決目前存在的、備受爭議的問題，即如何控制機器人的行為，以及如何保持機器人真正意義上的“倫理”。