生成式AI：認(rèn)知對抗的新武器

(資料圖)

■陳東恒 許 炎

引 言

日前，美國的OpenAI將ChatGPT升級為GPT-4的全新版本。相比于只能接收文字提問的老版本，GPT-4能用數(shù)十種語言開展工作，還可識別圖片信息。以ChatGPT為代表的生成式AI的迅猛發(fā)展，打開了人類認(rèn)知世界的新路徑，也為一些國家對外實施認(rèn)知滲透攻擊提供了新武器。

生成式AI的認(rèn)知應(yīng)用功能

所謂生成式AI，是指通過各種機(jī)器學(xué)習(xí)方法從數(shù)據(jù)中學(xué)習(xí)抽取對象的內(nèi)核特征，進(jìn)而生成全新的、完全原創(chuàng)的內(nèi)容的AI。ChatGPT及其迭代產(chǎn)品，本質(zhì)是基于人類自然語言的人工智能語言模型。它以大型數(shù)據(jù)為原料，通過強(qiáng)化訓(xùn)練和深度學(xué)習(xí)，具備了類似神經(jīng)網(wǎng)絡(luò)的反饋糾錯機(jī)制，能夠根據(jù)用戶的具體需求創(chuàng)造新的內(nèi)容，自動完成諸如撰文本、寫文章、編代碼，以及作畫、編輯視頻等復(fù)雜工作，為人類認(rèn)知插上了翅膀。

認(rèn)知速度提升。生成式AI以AI為核心支撐，以高性能算法為武器，匯聚了大規(guī)模數(shù)據(jù)信息，是人類智慧和數(shù)據(jù)信息的集大成者。生成式AI的橫空出世，標(biāo)志著人工智能發(fā)展從量變正走向質(zhì)變，其認(rèn)知速度遠(yuǎn)超此前所有AI認(rèn)知機(jī)器。有資料顯示，支撐ChatGPT語言合成結(jié)果更自然流暢的是45TB的數(shù)據(jù)、近1萬億個單詞的訓(xùn)練模型，其規(guī)模相當(dāng)于1351萬本牛津詞典。GPT-4雖然其認(rèn)知算法、算力和訓(xùn)練數(shù)據(jù)等尚未公開，但無疑是一個更加強(qiáng)大的超級天文數(shù)字，這是其強(qiáng)大認(rèn)知速度和認(rèn)知能力的關(guān)鍵支撐所在。

認(rèn)知趨勢預(yù)測。生成式AI的神奇之處還在于，能夠基于強(qiáng)大的數(shù)據(jù)支撐、算法和事物生成發(fā)展規(guī)律，預(yù)測事物的發(fā)展趨勢。公開資料顯示，目前由類GPT人工智能支撐的美軍“先進(jìn)算法作戰(zhàn)系統(tǒng)”，能對敵人成千上萬次炮擊、地面進(jìn)攻和空襲信息進(jìn)行匯總，利用AI算法總結(jié)敵人的行動規(guī)律、戰(zhàn)斗習(xí)慣，甚至模擬敵軍指揮官的“思維方式”，提出針對性應(yīng)對方案。

認(rèn)知偏向誘導(dǎo)。生成式AI不管如何快速迭代，其說到底還是一個人類創(chuàng)造并控制的AI。在令人眼花繚亂的功能背后，是其研發(fā)操縱者利用掌握的設(shè)計密鑰和訓(xùn)練數(shù)據(jù)集，對機(jī)器輸出的認(rèn)知立場和態(tài)度實施操控，同時也不排除由于機(jī)器認(rèn)知故障或失控有可能造成的重大風(fēng)險挑戰(zhàn)。資料顯示，OpenAI將調(diào)試的大量精力花在英文數(shù)據(jù)而非中文內(nèi)容，中文數(shù)據(jù)在ChatGPT的訓(xùn)練語料里占比僅0.1%，英文輸出結(jié)果的邏輯性和準(zhǔn)確性要遠(yuǎn)大于中文，其文化價值傾向可見一斑。當(dāng)帶有鮮明政治立場和價值觀傾向的生成式AI及其產(chǎn)品日益深入世人的生活時，受眾認(rèn)知很難不受到其提供的預(yù)設(shè)政治立場的答案的傾向性影響，這一系統(tǒng)也由此更加容易淪為認(rèn)知攻防的工具。

生成式AI的認(rèn)知應(yīng)用特征

生成式AI作為高度智慧化的AI形態(tài)，對認(rèn)知戰(zhàn)的作用特征具有AI認(rèn)知戰(zhàn)應(yīng)用的一般特征，同時又兼具高智慧認(rèn)知對抗的特殊性狀。掌握生成式AI認(rèn)知應(yīng)用的特點規(guī)律，有助于我們認(rèn)清其在認(rèn)知攻防中的現(xiàn)實和潛在價值，拓展認(rèn)知戰(zhàn)方法路徑。

自主運行。這是生成式AI認(rèn)知應(yīng)用的顯著特征。生成式AI具有一定程度的自我意識，能夠按照其研發(fā)應(yīng)用的底層邏輯，自主“涌現(xiàn)”生成新的內(nèi)容，進(jìn)而對人的認(rèn)知產(chǎn)生連續(xù)性的不確定性影響。其認(rèn)知應(yīng)用的價值在于，研發(fā)應(yīng)用者能夠依靠對系統(tǒng)設(shè)計和訓(xùn)練語言的掌握，更加高質(zhì)高效持續(xù)作用于目標(biāo)對象的思維認(rèn)知；同樣，作為對手的“受眾”在看似客觀的AI連續(xù)影響干預(yù)下，更容易難辨真假、受惑受制。未來認(rèn)知對抗，在生成式AI加持下，攻擊組織者可將認(rèn)知攻防任務(wù)交由AI機(jī)器和編程來完成。對“受眾”而言，信息是真是假、判斷是對是錯、決策是優(yōu)是劣、行動是好是壞，一切都將變得更加撲朔迷離。因為你面對的可能不是活生生的人，而是有智慧的類人認(rèn)知能力的程序或機(jī)器。

交互博弈。這是生成式AI認(rèn)知應(yīng)用的邏輯特征。生成式AI實際上是人本體認(rèn)知與機(jī)器認(rèn)知交互作用的認(rèn)知。人類將自身智慧賦能于程序和機(jī)器，同時認(rèn)知機(jī)器也在回答受眾問題、根據(jù)受眾具體需求創(chuàng)造新的內(nèi)容、進(jìn)而形成新的能力，并用于充實完善自系統(tǒng)。因此，類ChatGPT所具備的認(rèn)知，是人與機(jī)器程序內(nèi)互動與外互動的疊加。在這個過程中，基于研發(fā)者授權(quán)的生成式AI，能夠調(diào)動運用所有的數(shù)據(jù)儲備和算力、算法，與作為“對手”的人或同樣的類ChatGPT，就關(guān)注的問題進(jìn)行博弈，從中潛移默化地施加影響、誘導(dǎo)或壓制對方。

隱蔽擾動。這是生成式AI認(rèn)知應(yīng)用的深層特征。生成式AI本質(zhì)是人在底層回路控制的高度智慧化的程序或機(jī)器，其生成是基于人主導(dǎo)之下的混合生成，而不是完全脫離于人的虛浮生成。如同所有科技一樣，游離于人的AI是不存在的。正是其高智慧支撐的令人目不暇接的認(rèn)知行為，為真正的認(rèn)知施動者提供了隱秘的作用發(fā)揮空間。正是基于此，生成式AI生成的源頭、方式、內(nèi)容和指向具有鮮明的人文色彩，包括政治立場、價值取向、道德標(biāo)準(zhǔn)、文化屬性甚至性格特征。反過來，我們也可以透過這些人文色彩去認(rèn)知其本源和性質(zhì)。當(dāng)你面對一臺有相當(dāng)認(rèn)知應(yīng)對能力、很有科技感的機(jī)器或程序時，你很難從與其往來互動的應(yīng)答中判斷其背后有無另外的支配力量在起作用。正是這種先驗形成的對科技的崇拜與信任，往往令人喪失對其背負(fù)的政治傾向、價值準(zhǔn)則、道德標(biāo)準(zhǔn)、人文屬性的警覺。

生成式AI的認(rèn)知應(yīng)用方式

生成式AI的迅猛發(fā)展及其在認(rèn)知攻防對抗領(lǐng)域中的廣泛應(yīng)用，是未來認(rèn)知戰(zhàn)發(fā)展的大趨勢。這就要求我們要深入研究生成式AI的認(rèn)知應(yīng)用，把握其作用發(fā)揮的方法路徑。

認(rèn)知習(xí)慣塑造。就是增強(qiáng)優(yōu)勢科技產(chǎn)品使用的便利性，通過長期浸染形成對該產(chǎn)品使用的慣性思維，從而達(dá)成可信可親可感、毫不設(shè)防的認(rèn)知趨同，這是美國等一些西方國家的傳統(tǒng)做法。早年美西方開發(fā)國際互聯(lián)網(wǎng)、操作系統(tǒng)時，通過低價或免費使用來塑造市場，讓對手在使用中不知不覺上“癮”。ChatGPT以工作上的“貼心人”“小助手”形象出現(xiàn)，還提供免費使用版本。這些看似人畜無害、實則人為控制的生成式AI們，一旦成為人們無比信任、無話不談的“密友”時，它對人的影響將是潛移默化的。這提醒我們，“親民”之中有陷阱，切不可被溫情脈脈的表象迷惑。

認(rèn)知信息滲透。通過媒體平臺和文創(chuàng)產(chǎn)品輸出價值觀，影響其他國家百姓的價值取向，是美西方等國的通行做法。美國曾利用技術(shù)優(yōu)勢，通過互聯(lián)網(wǎng)絡(luò)投放大量數(shù)據(jù)庫和信息產(chǎn)品推廣美式價值觀。美國在生成式AI上的先發(fā)優(yōu)勢，無疑使其擁有了向?qū)κ诌M(jìn)行信息滲透的新工具。這提醒我們，某些看似客觀公正的數(shù)據(jù)信息，其實不少都被“染了色”甚至是“變了質(zhì)”。切實加強(qiáng)國家安全尤其是加強(qiáng)數(shù)據(jù)信息等戰(zhàn)略資源的保護(hù)，防止以技術(shù)理性代替價值理性等。

認(rèn)知思維構(gòu)陷。就是利用人性的弱點，通過激發(fā)追求安逸、新奇、刺激的認(rèn)知感受等原始欲望，以“獵奇娛樂+意識滲透”的方式影響人的思維認(rèn)知。ChatGPT等生成式AI針對現(xiàn)代人的社交、情感困境，以愉人悅性的聊天機(jī)器人面目出現(xiàn)，契合了許多人的情感訴求。這種專注于迎合利用人性特點的技術(shù)運用，極易將人的思維認(rèn)知引入狹隘的、片面的、淺表的陷阱。這警示我們，必須保持對新技術(shù)的足夠理性，在用其所優(yōu)所長的同時，防止掉入可能負(fù)載的人為陷阱。

認(rèn)知標(biāo)準(zhǔn)挾持。就是以技術(shù)邏輯捆綁價值邏輯，利用科技優(yōu)勢在產(chǎn)品中強(qiáng)行貫注相應(yīng)價值觀，這是美西方等國新興做法。比如，互聯(lián)網(wǎng)是現(xiàn)代社會不可或缺的重要工具，掌握互聯(lián)網(wǎng)絕對控制權(quán)的美西方國家更是將其作為價值觀滲透的利器。美國就曾通過控制互聯(lián)網(wǎng)使用、國際支付系統(tǒng)使用等手段打壓在某些問題上不同于美西方的聲音和做法。以ChatGPT為代表的生成式AI，仍然能夠復(fù)制這種“捆綁”式挾持伎倆，利用生成答案之機(jī)強(qiáng)行提供融合美式價值觀的“標(biāo)準(zhǔn)答案”。這提醒我們，加強(qiáng)認(rèn)知對抗，要加強(qiáng)戰(zhàn)略性信息系統(tǒng)技術(shù)創(chuàng)新和產(chǎn)品研發(fā)力度，以科技過硬支撐認(rèn)知對抗話語權(quán)過硬。

（作者單位：軍事科學(xué)院軍隊政治工作研究院）