焦點(diǎn)播報(bào):人工智能概念狂飆，網(wǎng)絡(luò)安全企業(yè)該如何理智應(yīng)對(duì)？

來(lái)源：互聯(lián)網(wǎng)
最近，兩個(gè)人工智能系統(tǒng)徹底火出了圈，成為許多網(wǎng)友熱議的焦點(diǎn)。

一個(gè)是冷酷無(wú)情的“幕后主角”MOSS，一個(gè)是多才多藝的“全能網(wǎng)友”ChatGPT。

MOSS與ChatGPT

科幻電影《流浪地球2》中的面試環(huán)節(jié)令人印象深刻。


【資料圖】

演員吳京飾演的劉培強(qiáng)面試空間站航天員以獲取讓家人進(jìn)入地下城避難的資格，面試他的不是人而是經(jīng)過(guò)多重迭代、具備自我意識(shí)的人工智能系統(tǒng)MOSS（電影中也稱(chēng)“550W”）。

當(dāng)一個(gè)紅點(diǎn)攝像頭對(duì)著劉培強(qiáng)輕輕一掃，他的家庭情況和艱難選擇，連同其妻子的生命剩余天數(shù)都算得一清二楚，甚至還為劉培強(qiáng)提供了所謂的“最佳選擇”。面試中，MOSS冷靜且尖銳的提問(wèn)，理智而迅速的反應(yīng)，一度讓劉培強(qiáng)情緒崩潰，觀眾也為他捏了一把汗。

而最近火熱的ChatGPT，是OpenAI公司于2022年推出的一款自然語(yǔ)言驅(qū)動(dòng)的智能聊天機(jī)器人，由于其設(shè)計(jì)架構(gòu)基于超大規(guī)模預(yù)訓(xùn)練自然語(yǔ)言模型GPT，學(xué)習(xí)了海量人類(lèi)自然語(yǔ)言文本數(shù)據(jù)，它不僅能夠通過(guò)學(xué)習(xí)和理解人類(lèi)的語(yǔ)言來(lái)進(jìn)行對(duì)話(huà)，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，并協(xié)助人類(lèi)完成一系列任務(wù)。

這款A(yù)I語(yǔ)言模型，讓撰寫(xiě)郵件、論文、腳本，制定商業(yè)提案，創(chuàng)作詩(shī)歌、故事，甚至敲代碼、檢查程序錯(cuò)誤都變得易如反掌。

不少和ChatGPT“聊過(guò)天”的網(wǎng)友紛紛感嘆，“只有你想不到，沒(méi)有ChatGPT辦不成的”。上線(xiàn)僅2個(gè)月，ChatGPT的活躍用戶(hù)就突破一億，成為了歷史上用戶(hù)增長(zhǎng)最快的消費(fèi)者應(yīng)用程序。

技術(shù)發(fā)展引“狂喜”

ChatGPT等此類(lèi)生成式AI將繁瑣和耗時(shí)的任務(wù)進(jìn)行自動(dòng)化生產(chǎn)，人類(lèi)被解放出來(lái)專(zhuān)注于更關(guān)鍵的任務(wù)。它還可以產(chǎn)生原創(chuàng)內(nèi)容和想法，并幫助研究和開(kāi)發(fā)新產(chǎn)品和服務(wù)。

人工智能的出色表現(xiàn)，對(duì)于許多企業(yè)和個(gè)人來(lái)說(shuō)極具吸引力。AI面試、AI聊天、AI繪畫(huà)……AIGC（利用人工智能技術(shù)生成內(nèi)容）作為工具在工作生活、工作中應(yīng)用趨于高效且日益廣泛。

作為網(wǎng)絡(luò)空間安全與社會(huì)治理領(lǐng)域國(guó)家隊(duì)、國(guó)投集團(tuán)數(shù)字經(jīng)濟(jì)板塊重要企業(yè)，美亞柏科的AI研發(fā)團(tuán)隊(duì)從2019年開(kāi)始，就已經(jīng)采用“超大規(guī)模預(yù)訓(xùn)練模型+下游任務(wù)遷移”的技術(shù)方案，利用公司自身的自然語(yǔ)言處理技術(shù)，在NLP、OCR、計(jì)算機(jī)視覺(jué)和人工智能安全等多個(gè)領(lǐng)域開(kāi)展人工智能分析方面的業(yè)務(wù)實(shí)踐，基于在電子數(shù)據(jù)取證和執(zhí)法部門(mén)大數(shù)據(jù)智能化領(lǐng)域多年的深耕和知識(shí)經(jīng)驗(yàn)的積累，對(duì)行業(yè)客戶(hù)數(shù)據(jù)特點(diǎn)和業(yè)務(wù)需求的深刻理解，提出了文本智能分析理解、不良多媒體文件分析、反詐騙信息鑒別、多模態(tài)信息檢索等多個(gè)獨(dú)有的核心算法模型，廣泛應(yīng)用到公司輿情檢測(cè)、大數(shù)據(jù)情報(bào)分析和電子數(shù)據(jù)取證類(lèi)產(chǎn)品中。

美亞柏科將在國(guó)家相關(guān)規(guī)定下合理利用生成式AI技術(shù)，將ChatGPT類(lèi)技術(shù)融入各類(lèi)產(chǎn)品和項(xiàng)目中，提升公司已有產(chǎn)品在文本理解分析，不良信息處置，多模態(tài)數(shù)據(jù)檢索，案件支持知識(shí)庫(kù)智能化、大數(shù)據(jù)智能化和取證產(chǎn)品智能化方面的核心競(jìng)爭(zhēng)力，進(jìn)一步提升公司在對(duì)各類(lèi)生成偽造圖像視頻、文本內(nèi)容的發(fā)現(xiàn)識(shí)別和鑒定相關(guān)產(chǎn)品的技術(shù)能力，全面提升美亞柏科全產(chǎn)品體系智能化交互，智能問(wèn)答的能力。

目前，在客戶(hù)服務(wù)方面，美亞柏科已經(jīng)將ChatGPT的相關(guān)技術(shù)應(yīng)用到產(chǎn)品售后支持部門(mén)，基于取證產(chǎn)品知識(shí)庫(kù)，研發(fā)智能客服機(jī)器人系統(tǒng)，提升服務(wù)效率，有效節(jié)約售后支持的成本。

技術(shù)狂飆需“冷靜”

在人工智能向社會(huì)生活的各個(gè)領(lǐng)域滲透之時(shí)，其安全的負(fù)面風(fēng)險(xiǎn)持續(xù)加劇且產(chǎn)生實(shí)質(zhì)危害，通過(guò)深度合成和生成式AI技術(shù)制造虛擬音視頻圖像進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為已屢見(jiàn)不鮮。

此外，深度合成和生成式AI技術(shù)一旦被濫用，將會(huì)造成巨大的安全風(fēng)險(xiǎn)與實(shí)質(zhì)性危害，給個(gè)人、企業(yè)造成肖像、名譽(yù)等人格和財(cái)產(chǎn)權(quán)益損害，也可能給社會(huì)秩序、國(guó)家政治穩(wěn)定和安全造成巨大威脅。

在法律層面，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱(chēng)《規(guī)定》）并于2023年1月10日起正式施行?！兑?guī)定》通過(guò)系統(tǒng)性、創(chuàng)新性制度設(shè)計(jì)，回應(yīng)了對(duì)深度合成服務(wù)的管理要求，為互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范發(fā)展提供了基本遵循和合法依據(jù)。

阻止AI濫用，防止AI作惡，也需發(fā)揮技術(shù)能力，用“魔法”打敗“魔法”。美亞柏科自2017年便深度開(kāi)展人工智能技術(shù)研究。為了應(yīng)對(duì)利用人工智能技術(shù)可能帶來(lái)的安全問(wèn)題，于2019年特別針對(duì)深度合成技術(shù)成立專(zhuān)項(xiàng)研究團(tuán)隊(duì)（下稱(chēng)“專(zhuān)項(xiàng)團(tuán)隊(duì)”）。

專(zhuān)項(xiàng)團(tuán)隊(duì)通過(guò)對(duì)深度合成和生成式AI技術(shù)的深入研究以及在人工智能安全方向的經(jīng)驗(yàn)積累，自主研發(fā)深度偽造視頻圖像檢測(cè)鑒定的核心引擎，打造出一系列視頻圖像檢測(cè)鑒定的一體化智能裝備“AI-3300慧眼視頻圖像鑒真工作站”等。

AI-3300"慧眼"視頻圖像鑒真工作站是一款以人工智能技術(shù)為核心的視頻圖像檢驗(yàn)鑒定設(shè)備，配備了美亞柏科人工智能團(tuán)隊(duì)自主研發(fā)的核心AI智能檢測(cè)引擎，支持當(dāng)前絕大部分深偽視頻圖像篡改方法的檢測(cè)，檢測(cè)精度處于國(guó)內(nèi)領(lǐng)先水平，可為公安、司法行業(yè)及相關(guān)領(lǐng)域的技術(shù)人員和影像鑒定人員提供一站式影像真?zhèn)螜z驗(yàn)鑒定解決方案。

未來(lái)，美亞柏科還將持續(xù)鉆研，在立足自身研發(fā)實(shí)力、豐富實(shí)戰(zhàn)經(jīng)驗(yàn)發(fā)揮人工智能作用的同時(shí)，也將針對(duì)生成式AI技術(shù)、人工智能安全等問(wèn)題，不斷打磨推出更為安全、可信、可靠的人工智能技術(shù)產(chǎn)品，迎接新挑戰(zhàn)，為推動(dòng)、維護(hù)和保障人工智能的安全發(fā)展貢獻(xiàn)力量！

標(biāo)簽： 人工智能 美亞柏科 人工智能技術(shù) 自然語(yǔ)言

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)