人工智能應(yīng)用不當(dāng)會產(chǎn)生哪些風(fēng)險

一、數(shù)據(jù)風(fēng)險

1. “數(shù)據(jù)投毒”

所謂的“數(shù)據(jù)投毒”指人工智能訓(xùn)練數(shù)據(jù)污染導(dǎo)致人工智能決策錯誤。通過在訓(xùn)練數(shù)據(jù)里加入偽裝數(shù)據(jù)、惡意樣本等，破壞數(shù)據(jù)的完整性，進(jìn)而導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差。

2. 數(shù)據(jù)泄露

一方面逆向攻擊可導(dǎo)致算法模型內(nèi)部的數(shù)據(jù)泄露;

另一方面，人工智能技術(shù)可加強(qiáng)數(shù)據(jù)挖掘分析能力，加大隱私泄露風(fēng)險。比如各類智能設(shè)備（如智能手環(huán)、智能音箱）和智能系統(tǒng)（如生物特征識別系統(tǒng)、智能醫(yī)療系統(tǒng)），人工智能設(shè)備和系統(tǒng)對個人信息采集更加直接與全面。人工智能應(yīng)用采集的信息包括了人臉、指紋、聲紋、虹膜、心跳、基因等，具有很強(qiáng)的個人屬性。這些信息具有唯一性和不變性，一旦泄露或者濫用將產(chǎn)生嚴(yán)重后果。

3. 數(shù)據(jù)異常

運行階段的數(shù)據(jù)異?？蓪?dǎo)致智能系統(tǒng)運行錯誤，同時模型竊取攻擊可對算法模型的數(shù)據(jù)進(jìn)行逆向還原。此外，開源學(xué)習(xí)框架存在安全風(fēng)險，也可導(dǎo)致人工智能系統(tǒng)數(shù)據(jù)泄露。

二、算法風(fēng)險

圖像識別、圖像欺騙等會導(dǎo)致算法出問題，比如自動駕駛，谷歌也做了一些研究，如果模型文件被黑客控制惡意修改，并且給它學(xué)習(xí)，會產(chǎn)生完全不一樣的結(jié)果;

算法設(shè)計或?qū)嵤┯姓`可產(chǎn)生與預(yù)期不符甚至傷害性結(jié)果;

算法潛藏偏見和歧視，導(dǎo)致決策結(jié)果可能存在不公;

算法黑箱導(dǎo)致人工智能決策不可解釋，引發(fā)監(jiān)督審查困境;

含有噪聲或偏差的訓(xùn)練數(shù)據(jù)可影響算法模型準(zhǔn)確性。

三、網(wǎng)絡(luò)風(fēng)險

人工智能不可避免的會引入網(wǎng)絡(luò)連接，網(wǎng)絡(luò)本身的安全風(fēng)險也會將AI帶入風(fēng)險的深坑;

人工智能技術(shù)本身也能夠提升網(wǎng)絡(luò)攻擊的智能化水平，進(jìn)而進(jìn)行數(shù)據(jù)智能竊取;

人工智能可用來自動鎖定目標(biāo)，進(jìn)行數(shù)據(jù)勒索攻擊。人工智能技術(shù)通過對特征庫學(xué)習(xí)自動查找系統(tǒng)漏洞和識別關(guān)鍵目標(biāo)，提高攻擊效率;

人工智能可自動生成大量虛假威脅情報，對分析系統(tǒng)實施攻擊。人工智能通過使用機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘和自然語言處理等技術(shù)處理安全大數(shù)據(jù)，能自動生產(chǎn)威脅性情報，攻擊者也可利用相關(guān)技術(shù)生成大量錯誤情報以混淆判斷;

人工智能可自動識別圖像驗證碼，竊取系統(tǒng)數(shù)據(jù)。圖像驗證碼是一種防止機(jī)器人賬戶濫用網(wǎng)站或服務(wù)的常用驗證措施，但人工智能通過學(xué)習(xí)可以讓這一驗證措施失效。

四、其他風(fēng)險

第三方組件問題也會存在問題，包括對文件、網(wǎng)絡(luò)協(xié)議、各種外部輸入?yún)f(xié)議的處理都會出問題。被黑客利用，帶來的是災(zāi)難性的毀滅。

農(nóng)業(yè)電商平臺的主要運營風(fēng)險有哪些

您好，我是國內(nèi)第一批農(nóng)村電商的研習(xí)者，就您的問題談?wù)勎业南敕ā?/p>

一、模式的風(fēng)險

從這些年農(nóng)業(yè)電商平臺的發(fā)展歷程來看，是否具有清晰、獨特的商業(yè)模式是電商平臺運營發(fā)展的關(guān)鍵。因為農(nóng)業(yè)電商平臺最終也會走向集中，不同模式會形成幾個頭部平臺，這些平臺會擁有最大的市場份額。

二、平臺開發(fā)及運維的風(fēng)險

大多數(shù)剛起步的電商公司是不具備完整的技術(shù)開發(fā)團(tuán)隊，一般都會選擇外包技術(shù)公司合作，這里有兩個風(fēng)險，一個是第一版的開發(fā)和性能；另一個是后續(xù)的迭代優(yōu)化是否能夠及時完成。

溝通成本是必須考慮的問題，因為專業(yè)背景的差異，往往需要長時間，多輪次的溝通。

三、運營的風(fēng)險

國內(nèi)現(xiàn)在從事農(nóng)業(yè)電商的工作人員大多數(shù)是從消費電商轉(zhuǎn)型到農(nóng)業(yè)電商領(lǐng)域，目前最突出的問題是懂農(nóng)業(yè)的不懂電商，懂電商的不懂農(nóng)業(yè)，兩者都懂的人才少之又少，簡單的把消費電商的經(jīng)驗復(fù)制到農(nóng)業(yè)電商是十分危險的事情，農(nóng)業(yè)有其自身的規(guī)律和特點，所以運營團(tuán)隊的構(gòu)成至關(guān)重要。

當(dāng)然還有平臺安全的風(fēng)險等其它一些潛在的風(fēng)險，就不再贅述，這三點我認(rèn)為是最大的風(fēng)險。