姓名：趙佳慧? ? ? ? ? ? 學(xué)號(hào)：22011210938? ? ? ? ? ?學(xué)院：通信工程學(xué)院? ? ? ? ? ?

原文鏈接：https://blog.csdn.net/weixin_45859485/article/details/125658756?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522167265213616800215075045%2522%252C%2522scm%2522%253A%252220140713.130102334..%2522%257D&request_id=167265213616800215075045&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~all~sobaiduend~default-2-125658756-null-null.142^v68^control,201^v4^add_ask,213^v2^t3_esquery_v3&utm_term=%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%AE%89%E5%85%A8&spm=1018.2226.3001.4187

一、人工智能的安全問題

1.人工智能網(wǎng)絡(luò)安全問題

眾所周知，很多行業(yè)在應(yīng)用入工智能這項(xiàng)技術(shù)以及相關(guān)的知識(shí)的時(shí)候都是依附于計(jì)算機(jī)網(wǎng)絡(luò)來進(jìn)行的，而計(jì)算機(jī)網(wǎng)絡(luò)這個(gè)行業(yè)是錯(cuò)綜復(fù)雜的，很多計(jì)算機(jī)網(wǎng)絡(luò)的安全問題也是目前我國(guó)面臨的很嚴(yán)重的問題之一，相應(yīng)的人工智能的網(wǎng)絡(luò)安全問題也是還存在問題的，比如機(jī)器人在為人類服務(wù)的過程中，操作系統(tǒng)可能遭到黑客的控制，機(jī)器人的管理權(quán)限被黑客拿到，使機(jī)器人任由黑客擺布；亦或突然源代碼遭受到攻擊，人工智能的信息基本通過網(wǎng)絡(luò)進(jìn)行傳輸，在此過程中，信息有可能遇到黑客的篡改和控制，這就會(huì)導(dǎo)致機(jī)器人產(chǎn)生違背主人命令的行為，會(huì)有給主人造成安全問題的可能性。不僅如此，在人工智能的發(fā)展過程中，大量的人工智能訓(xùn)練師需要對(duì)現(xiàn)有的人類大數(shù)據(jù)進(jìn)行分析和統(tǒng)計(jì)，如何防止信息的泄漏和保護(hù)個(gè)人信息的隱私也是人工智能領(lǐng)域需要關(guān)注的問題。

2.人工智能應(yīng)用范圍限定的問題

對(duì)一些發(fā)展不成熟、會(huì)有引起安全問題的可能性的領(lǐng)域以及技術(shù)的應(yīng)用范圍給出一定的限定，這是保障人類與社會(huì)和諧發(fā)展的一種手段，也是不能或缺的一個(gè)步驟。目前，人工智能的發(fā)展也是如此的，這也是人工智能目前安全問題所面臨的問題之一。目前各行各業(yè)都有人工智能的應(yīng)用，比如無人駕駛、各類機(jī)器人等，很多行業(yè)都會(huì)看到人工智能的存在，小到購(gòu)物APP中的客服機(jī)器人，大到國(guó)際比賽中機(jī)器人的應(yīng)用，在許多危險(xiǎn)的領(lǐng)域，如核電、爆破等危及人類生命安全的場(chǎng)景，發(fā)揮了至關(guān)重要的作用。這些領(lǐng)域的應(yīng)用如果應(yīng)用的成功那沒什么問題，一旦出現(xiàn)問題就會(huì)產(chǎn)生很嚴(yán)重的安全性問題。對(duì)于人工智能應(yīng)用的范圍，目前并沒有給出明確的界定，也沒有明確的法律依據(jù)，這就需要相關(guān)組織和機(jī)構(gòu)，盡快對(duì)人工智能的適用場(chǎng)景進(jìn)行梳理，加快人工智能標(biāo)準(zhǔn)和法律的建設(shè)步伐，防止一些不法分子，利用法律漏洞將人工智能運(yùn)用到非法的范圍中，造成全人類不可估量的損失。

3.人工智能本身的安全標(biāo)準(zhǔn)

人工智能的產(chǎn)生以及應(yīng)用的本身目的并不是為了趕超人類或者達(dá)到人類的智力水平，它本身存在的價(jià)值是服務(wù)于人類，可以成為人類生活的更好的一種工具，人類需要對(duì)其有著一定的控制的能力。但是近幾年來，很多人工智能的存在是為了與人類的智力水平以及人類為標(biāo)準(zhǔn)，忽略了部分人類倫理的問題，甚至涉及到部分人權(quán)問題，這就偏離了人工智能本身存在的目的，而這種的偏離會(huì)產(chǎn)生一定的安全問題，從而影響人工智能的發(fā)展。所以人們應(yīng)對(duì)機(jī)器人的道德和行為判斷力進(jìn)行判定，確保其在人類的道德倫理范圍中，避免人工智能產(chǎn)物做出危害人類安全的行為。人類必須對(duì)人工智能的行為進(jìn)行嚴(yán)格的監(jiān)管，也要大力發(fā)展人工智能自身的倫理監(jiān)督機(jī)制，使其為人類所用。

二、人工智能的倫理問題

1.人工智能算法的正義問題

依托于深度學(xué)習(xí)、算法等技術(shù)，從個(gè)性化推薦到信用評(píng)估、雇傭評(píng)估、企業(yè)管理再到自動(dòng)駕駛、犯罪評(píng)估、治安巡邏，越來越多的決策工作正在被人工智能所取代，越來越多的人類決策主要依托于人工智能的決策。由此產(chǎn)生的一個(gè)主要問題是公平正義如何保障？人工智能的正義問題可以解構(gòu)為兩個(gè)方面：第一，如何確保算法決策不會(huì)出現(xiàn)歧視、不公正等問題。這主要涉及算法模型和所使用的數(shù)據(jù)。第二，當(dāng)個(gè)人被牽扯到此類決策中，如何向其提供申訴機(jī)制并向算法和人工智能問責(zé)，從而實(shí)現(xiàn)對(duì)個(gè)人的救濟(jì)，這涉及透明性、可責(zé)性等問題。在人工智能的大背景下，算法歧視已經(jīng)是一個(gè)不容忽視的問題，正是由于自動(dòng)化決策系統(tǒng)日益被廣泛應(yīng)用在諸如教育、就業(yè)、信用、貸款、保險(xiǎn)、廣告、醫(yī)療、治安、刑事司法程序等諸多領(lǐng)域。從語音助手的種族歧視、性別歧視問題，到美國(guó)犯罪評(píng)估軟件對(duì)黑人的歧視，人工智能系統(tǒng)決策的不公正性問題已經(jīng)蔓延到了很多領(lǐng)域，而且由于其“黑箱”性質(zhì)、不透明性等問題，難以對(duì)當(dāng)事人進(jìn)行有效救濟(jì)。

2.人工智能的透明性和可解釋性問題

人工智能系統(tǒng)進(jìn)入人類社會(huì)，必然需要遵守人類社會(huì)的法律、道德等規(guī)范和價(jià)值，做出合法、合道德的行為?；蛘哒f，被設(shè)計(jì)、被研發(fā)出來的人工智能系統(tǒng)需要成為道德機(jī)器。在實(shí)踐層面，人工智能系統(tǒng)做出的行為需要和人類社會(huì)的各種規(guī)范和價(jià)值保持一致，即價(jià)值一致性或者說價(jià)值相符性。由于人工智能系統(tǒng)是研發(fā)人員的主觀設(shè)計(jì)，這一問題最終歸結(jié)到人工智能設(shè)計(jì)和研發(fā)中的倫理問題，即一方面需要以一種有效的技術(shù)上可行的方式將各種規(guī)范和價(jià)值代碼化，植入人工智能系統(tǒng)，使系統(tǒng)在運(yùn)行時(shí)能夠做出合倫理的行為；另一方A面需要避免研發(fā)人員在人工智能系統(tǒng)研發(fā)過程中，將其主觀的偏見、好惡、歧視等帶入人工智能系統(tǒng)。

算法歧視與算法本身的構(gòu)建和其基于的數(shù)據(jù)樣本數(shù)量及樣本性質(zhì)密不可分。

算法歧視問題其實(shí)取決于底層數(shù)據(jù)的積累，數(shù)據(jù)積累越多算法計(jì)算就越準(zhǔn)確，對(duì)某一人群的算法描述就越精準(zhǔn)。同時(shí)，隨著算法復(fù)雜性的增加和機(jī)器學(xué)習(xí)的普及導(dǎo)致算法黑箱問題越來越突出。美國(guó)計(jì)算機(jī)協(xié)會(huì)公共政策委員會(huì)在《算法透明性和可問責(zé)性聲明》中提出七項(xiàng)基本原則，第一項(xiàng)基本原則即為解釋，其含義是鼓勵(lì)使用算法決策系統(tǒng)對(duì)算法過程和特定決策提供解釋，并認(rèn)為促進(jìn)算法的可解釋性和透明性在公共政策中尤為重要。未來人工智能系統(tǒng)將會(huì)更加緊密地融入社會(huì)生活的方方面面，如何避免諸如性別歧視、種族歧視、弱勢(shì)群體歧視等問題，確保人工智能合倫理行為的實(shí)現(xiàn)，這需要在當(dāng)前注重?cái)?shù)學(xué)和技術(shù)等基本算法研究之外，更多地思考倫理算法的現(xiàn)實(shí)必要性和可行性。

三、人工智能的隱私問題

1.個(gè)人隱私的過度收集

互聯(lián)網(wǎng)的發(fā)展以及人工智能技術(shù)的應(yīng)用在很大程度上降低了大數(shù)據(jù)在分析應(yīng)用方面的成本，攝像頭已經(jīng)遍布我們生活的大部分角落，走在街上我們的一行一動(dòng)，都隨時(shí)隨地在電子監(jiān)控的掌控之中；計(jì)算機(jī)被廣泛利用來準(zhǔn)確地記錄人們的瀏覽記錄：移動(dòng)通信設(shè)備隨時(shí)跟蹤人們的通話記錄，聊天記錄等。在人工智能時(shí)代，在收集個(gè)人信息面前，人們面對(duì)無處可逃的命運(yùn)。

在人工智能的應(yīng)用中，監(jiān)控發(fā)生了根本性的變化，融合了各種類型的監(jiān)控手段，監(jiān)控的力度也變的越來越強(qiáng)大。以CCTV視頻監(jiān)控為例，它不再是單一的視頻監(jiān)控或圖像記錄和存儲(chǔ)，其與智能識(shí)別和動(dòng)態(tài)識(shí)別相結(jié)合，大量的視頻監(jiān)控信息構(gòu)成了大數(shù)據(jù)，在此基礎(chǔ)上通過其他技術(shù)的智能分析就能進(jìn)行身份的識(shí)別，或是與個(gè)人的消費(fèi)、信用等的情況進(jìn)行關(guān)聯(lián)，構(gòu)成一個(gè)人完整的數(shù)字化的人格。人工智能應(yīng)用中的數(shù)據(jù)米源于許多方面，既包括政府部門也有工商業(yè)企業(yè)所收集的個(gè)人數(shù)據(jù)資料，還包含著用戶個(gè)人在智能應(yīng)用軟件中輸入和提供的數(shù)據(jù)資料，比如在可穿戴設(shè)備中產(chǎn)生的大量個(gè)人數(shù)據(jù)資料，以及智能手機(jī)使用所產(chǎn)生的大量數(shù)據(jù)資料都可能成為人工智能應(yīng)用中被監(jiān)控的部分，它在不改變?cè)行螒B(tài)的前提下對(duì)個(gè)人的信息進(jìn)行關(guān)聯(lián)，將碎片化的數(shù)據(jù)進(jìn)行整合，構(gòu)成對(duì)用戶自身完整的行為勾勒和心理描繪，用戶很難在此情況下保護(hù)自己的個(gè)人隱私。視頻監(jiān)控還可能借助無線網(wǎng)絡(luò)通信，使隱私遭遇同步直播成為現(xiàn)實(shí)，一些非法的同步錄像行為，具有侵犯隱私利益的可能性。此類人工智能技術(shù)的廣泛應(yīng)用，讓我們隱私無處安放，不僅超出了公眾所能容忍的限度，也是對(duì)整個(gè)社會(huì)隱私保護(hù)發(fā)起的挑戰(zhàn)。

2.個(gè)人隱私的非法泄露

在人工智能不斷發(fā)展，應(yīng)用領(lǐng)域不斷拓展，人工智能技術(shù)在各行各業(yè)中都發(fā)揮著越來越重要的作用，滲透在各大領(lǐng)域之中，帶動(dòng)著產(chǎn)業(yè)的發(fā)展，同時(shí)我們也必須承認(rèn)該項(xiàng)技術(shù)的發(fā)展和應(yīng)用無法避免的隱患。很多情況下，我們?cè)诓蛔灾虿荒茏灾臓顟B(tài)下向智能應(yīng)用的運(yùn)營(yíng)商或者服務(wù)提供商提供我們的數(shù)據(jù)信息，每個(gè)人的數(shù)據(jù)都可能被標(biāo)記，被犯罪分子竊取并轉(zhuǎn)賣。

以“Facebook”數(shù)據(jù)泄露為例，2018年3月17日，美國(guó)《紐約時(shí)報(bào)》曝光Facebook造成5000多萬的用戶隱私信息數(shù)據(jù)被名為“劍橋分析（Cambridge Analytica）”的一家公司泄露，這些泄露的數(shù)據(jù)中包含用戶的手機(jī)號(hào)碼和姓名、身份信息、教育背景、征信情況等，被用來定向投放廣告?！岸诖舜问录?，一方面是由于使用智能應(yīng)用的普通用戶對(duì)自身隱私數(shù)據(jù)缺乏危機(jī)意識(shí)和安全保護(hù)的措施，另一方面Facebook應(yīng)用中規(guī)定只需要用戶的單獨(dú)授權(quán)就能收集到關(guān)聯(lián)用戶的相關(guān)信息，其將隱私設(shè)置為默認(rèn)公開的選項(xiàng)給第三方抓取數(shù)據(jù)提供了可乘之機(jī)。同樣Facebook之所以受到譴責(zé)的一個(gè)重要原因就是未能保護(hù)好用戶的隱私數(shù)據(jù)，欠缺對(duì)第三方獲取數(shù)據(jù)目的的必要性審查，對(duì)第三方有效使用數(shù)據(jù)缺乏必要的監(jiān)控，使個(gè)人數(shù)據(jù)被利益方所濫用，欠缺網(wǎng)絡(luò)安全事件的信息公開和緊急處理的經(jīng)驗(yàn)，不僅會(huì)侵害網(wǎng)絡(luò)用戶個(gè)人的合法權(quán)利，也會(huì)對(duì)社會(huì)的發(fā)展進(jìn)步產(chǎn)生消極的影響。Facebook在對(duì)數(shù)據(jù)使用和流轉(zhuǎn)中，并未對(duì)個(gè)用戶數(shù)據(jù)提起重視、履行責(zé)任。在向第三方提供數(shù)據(jù)共享的便利同時(shí)并沒有充分考慮到用戶隱私保護(hù)的重要性和必要性，以及沒有采取必要的預(yù)防策略，極易對(duì)平臺(tái)數(shù)據(jù)造成濫用的風(fēng)險(xiǎn)。不難看出，從分析用戶的隱私數(shù)據(jù)來定向投放廣告追求商業(yè)價(jià)值和經(jīng)濟(jì)利益，到一再發(fā)生的泄密事件使得用戶隱私數(shù)據(jù)信息泄露變得更加“有利可圖”。一方面，人工智能應(yīng)用由于在技術(shù)上占有優(yōu)勢(shì)，在獲得、利用、竊取用戶的隱私數(shù)據(jù)時(shí)有技術(shù)和數(shù)據(jù)庫的支撐，可以輕松實(shí)現(xiàn)自動(dòng)化、大批量的信息傳輸，并在后臺(tái)將這些數(shù)據(jù)信息進(jìn)行相應(yīng)的整合和分析；另一方面，后臺(tái)竊取隱私數(shù)據(jù)時(shí)，我們普通的用戶根本無法感知到，在簽訂隱私條款時(shí)很難對(duì)冗長(zhǎng)的條文進(jìn)行仔細(xì)的閱讀，往往難以發(fā)現(xiàn)智能應(yīng)用中隱藏著的深層動(dòng)機(jī)。在此次數(shù)據(jù)泄露事件中，該平臺(tái)本身并沒有將用戶的數(shù)據(jù)直接泄露出去，而是第三方機(jī)構(gòu)濫用了這些數(shù)據(jù)，這種平臺(tái)授權(quán)、第三方濫用數(shù)據(jù)的行為更加快了隱私泄露的進(jìn)程。

3.個(gè)人隱私的非法交易

在人工智能時(shí)代，個(gè)人信息交易已形成完整的產(chǎn)業(yè)鏈，在這個(gè)空間中，一個(gè)人的重要隱私信息幾乎全部暴露在外，包括身份證號(hào)，家庭住址，車牌號(hào)，手機(jī)號(hào)碼和住宿記錄，所有這些的信息都成為待出售的對(duì)象。在人工智能技術(shù)廣泛應(yīng)用的同時(shí)，人們常用的智能手機(jī)、電腦以及社交媒體平臺(tái)都在無時(shí)無刻的記錄著我們的生活軌跡，各種垃圾廣告和郵件可以實(shí)現(xiàn)精準(zhǔn)的推送，推銷電話、詐騙短信等成為經(jīng)常光顧的對(duì)象，盡管我們沒有購(gòu)買理財(cái)產(chǎn)品，沒有購(gòu)房需求，沒有保險(xiǎn)服務(wù)等，也沒有向這些公司提供過自己的隱私數(shù)據(jù)信息，但無法避免而且能經(jīng)常接到理財(cái)公司、房地產(chǎn)商、保險(xiǎn)公司等的推銷電話。探究這些公司對(duì)用戶偏好和興趣精準(zhǔn)了解的緣由，那便是人工智能應(yīng)用中個(gè)人隱私的非法交易行為，我們保留在網(wǎng)站或企業(yè)中的個(gè)人信息，除了由該企業(yè)本身使用外，這些企業(yè)還經(jīng)常與其他的個(gè)人和企業(yè)共同分享、非法交易，而忽略了公民的個(gè)人隱私安全。目前，人們的個(gè)人數(shù)據(jù)，如電話號(hào)碼，銀行卡信息，購(gòu)車記錄，收入狀況，網(wǎng)站注冊(cè)信息等，已成為私人非法交易的嚴(yán)重災(zāi)區(qū)，這些個(gè)人信息被不法分子通過非法交易獲得并通過循環(huán)使用來獲利。現(xiàn)階段，這類專門進(jìn)行個(gè)人信息買賣的公司在國(guó)內(nèi)不計(jì)其數(shù)，大大小小的分布在各種隱蔽的角落，甚至有一些正規(guī)的大型企業(yè)也免不了買賣個(gè)人信息的行為。當(dāng)今社會(huì)，公民的很多日常行為都不得不提供自己的私人信息，如應(yīng)聘工作、參加考試、購(gòu)買保險(xiǎn)、購(gòu)買車票、尋醫(yī)看病等等。這些信息提供給企業(yè)商家后，他們就有義務(wù)對(duì)用戶的信息進(jìn)行保密，而目前對(duì)用戶信息保密的相關(guān)法律規(guī)定還比較欠缺，因此往往寄希望于企業(yè)商家通過自律行為來保護(hù)用戶的隱私。但是目前的現(xiàn)狀是大多數(shù)企業(yè)的自身素質(zhì)不高，單純將對(duì)隱私保護(hù)寄希望于商家企業(yè)的自律是不現(xiàn)實(shí)的，這些數(shù)據(jù)往往會(huì)被企業(yè)商家非法買賣，甚至將這些非法買賣的個(gè)人信息用于詐騙、傳銷。

————————————————

版權(quán)聲明：本文為CSDN博主「Champhoenix」的原創(chuàng)文章，遵循CC 4.0 BY-SA版權(quán)協(xié)議，轉(zhuǎn)載請(qǐng)附上原文出處鏈接及本聲明。

原文鏈接：https://blog.csdn.net/weixin_45859485/article/details/125658756