如何確保Alpha世代不被AI“馴化”

來(lái)源標(biāo)題：如何確保Alpha世代不被AI“馴化”

“萌萌小朋友已經(jīng)走在了很多大人的前面。”“凱叔講故事”創(chuàng)始人兼CEO王凱說(shuō)。

之所以這么說(shuō)，是因?yàn)楫?dāng)很多成年人還在對(duì)人工智能持觀望態(tài)度時(shí)，這位筆名為“許萌萌”的小學(xué)生已經(jīng)開(kāi)始用生成式人工智能創(chuàng)作小說(shuō)了，并賺到了2萬(wàn)元的版稅。

今年5月1日，許萌萌創(chuàng)作的科幻小說(shuō)《AI少年：火星生存大挑戰(zhàn)》問(wèn)世。“故事生動(dòng)有趣，語(yǔ)言水準(zhǔn)甚至超過(guò)了一些成年作者的水平。”該書(shū)編輯曾這樣表示。

像許萌萌這樣2010年后出生的青少年和兒童，被稱(chēng)為“Alpha世代”。盡管他們年紀(jì)尚輕，但不少人已是熟練的人工智能用戶(hù)，成長(zhǎng)為數(shù)字時(shí)代的重要參與者。在高度數(shù)字化的世界里，掌握AI基礎(chǔ)知識(shí)，已成為這一代人的必然選擇。

那么，對(duì)于Alpha世代而言，AI到底扮演著什么樣的角色?AI工具如何悄然融入了他們的學(xué)習(xí)與生活?教育工作者和家長(zhǎng)是否有足夠的能力提前預(yù)判AI應(yīng)用的風(fēng)險(xiǎn)?如何借AI技術(shù)激發(fā)Alpha世代更大的潛能，使其成為AI時(shí)代的主人?科技日?qǐng)?bào)記者深入采訪(fǎng)，以期找到這些問(wèn)題的答案。

AI必將深刻影響年輕一代

“十年前，全球頂尖的人工智能系統(tǒng)還無(wú)法像人類(lèi)一樣準(zhǔn)確識(shí)別圖像中的物體。它們?cè)谡Z(yǔ)言理解方面表現(xiàn)欠佳，也無(wú)法解答數(shù)學(xué)難題。而如今，人工智能系統(tǒng)在各類(lèi)標(biāo)準(zhǔn)基準(zhǔn)測(cè)試中已屢超人類(lèi)水平。”斯坦福大學(xué)人工智能指數(shù)聯(lián)席主任雷·佩羅在《2024年人工智能指數(shù)報(bào)告》發(fā)布之際，致信廣大讀者說(shuō)。

“人工智能的興起可為社會(huì)和經(jīng)濟(jì)發(fā)展帶來(lái)巨大機(jī)遇，尤其是在教育和醫(yī)療等關(guān)鍵領(lǐng)域。”西湖大學(xué)講席教授、先進(jìn)神經(jīng)芯片中心創(chuàng)始人默罕默德·薩萬(wàn)教授接受科技日?qǐng)?bào)記者采訪(fǎng)時(shí)說(shuō)。

“生而賽博”的Alpha世代，利用生成式人工智能模型作畫(huà)、解答問(wèn)題、學(xué)習(xí)英語(yǔ)。隨著人工智能技術(shù)的更新迭代，其對(duì)年輕一代學(xué)習(xí)和生活方式的影響日益深刻。

2024年，騰訊企鵝有調(diào)研究發(fā)布的《青少年互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告(2024)》顯示，青少年對(duì)人工智能的認(rèn)知度較高，45.1%的受訪(fǎng)者表示“曾經(jīng)使用過(guò)”人工智能產(chǎn)品。2023年5月，美國(guó)兒童和家庭倡導(dǎo)組織常識(shí)媒體(CommonSenseMedia)進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn)，在12歲至18歲的青少年孩子中，已有58%使用過(guò)ChatGPT。

2021年，中央網(wǎng)信辦等八部門(mén)聯(lián)合認(rèn)定了一批國(guó)家智能社會(huì)治理實(shí)驗(yàn)基地，其中包括19個(gè)教育領(lǐng)域的特色基地，旨在研究智能時(shí)代的教育場(chǎng)景與治理機(jī)制。截至今年2月，教育部公布的中小學(xué)人工智能教育基地?cái)?shù)量已達(dá)184個(gè)。

各地學(xué)校也采取了多種創(chuàng)新舉措來(lái)推進(jìn)人工智能教育。其中，山西省實(shí)驗(yàn)小學(xué)每周一至周五都會(huì)安排人工智能創(chuàng)意智造課;上海市盧灣高級(jí)中學(xué)更是專(zhuān)門(mén)打造人工智能功能實(shí)驗(yàn)區(qū)，并配備教師團(tuán)隊(duì)對(duì)學(xué)生進(jìn)行培訓(xùn)，為學(xué)生提供更加系統(tǒng)的人工智能學(xué)習(xí)體驗(yàn)……

“我們將實(shí)施人工智能賦能行動(dòng)，促進(jìn)智能技術(shù)與教育教學(xué)(AIforEducation)、科學(xué)研究(AIforScience)、社會(huì)(AIforSociety)的深度融合，為學(xué)習(xí)型社會(huì)、智能教育和數(shù)字技術(shù)發(fā)展提供有效的行動(dòng)支撐。”教育部部長(zhǎng)懷進(jìn)鵬在2024世界數(shù)字教育大會(huì)上發(fā)表主旨演講時(shí)說(shuō)。

過(guò)去，獲取知識(shí)的主要渠道，往往是經(jīng)嚴(yán)格審核的教科書(shū)或傳統(tǒng)課堂，而隨著人工智能時(shí)代的到來(lái)，年輕一代獲取知識(shí)的渠道更加多元。

生成式人工智能可作為輔助教學(xué)的重要工具。“如果引導(dǎo)得當(dāng)，包括Alpha世代在內(nèi)的學(xué)習(xí)者，可能會(huì)擁有隨叫隨到、針對(duì)性十足的課程助教。”電子科技大學(xué)外國(guó)語(yǔ)學(xué)院院長(zhǎng)胡杰輝說(shuō)。畢竟，生成式人工智能能夠促進(jìn)個(gè)性化學(xué)習(xí)，根據(jù)學(xué)生的需求提供比較精準(zhǔn)的支持。顯然，在傳統(tǒng)課堂教育中，這種模式無(wú)法輕松實(shí)現(xiàn)。

天津大學(xué)智能與計(jì)算學(xué)部人工智能學(xué)院副院長(zhǎng)、教授王鑫也認(rèn)為，生成式人工智能可根據(jù)學(xué)生的需求提供個(gè)性化指導(dǎo)和支持的同時(shí)，還能客觀提升學(xué)生學(xué)習(xí)的靈活性，激發(fā)他們的創(chuàng)造力和探索潛能。

清華大學(xué)公共管理學(xué)院副教授唐嘯則表示：“在生成式人工智能逐漸融入教育時(shí)，培養(yǎng)批判性思維、信息甄別能力、邏輯推理能力，以及對(duì)語(yǔ)言及內(nèi)容的‘審美能力’至關(guān)重要。”

而在國(guó)外，不少學(xué)校對(duì)生成式人工智能工具的態(tài)度也發(fā)生了改變。

曾在2023年初試圖阻止使用ChatGPT等生成式人工智能工具的澳大利亞昆士蘭州和新南威爾士州的公立學(xué)校，到同年晚些時(shí)候改變了這一決定。

無(wú)獨(dú)有偶。紐約市公立學(xué)校也在2023年夏季恢復(fù)支持使用人工智能工具。此后，他們還成立人工智能政策實(shí)驗(yàn)室，意在引導(dǎo)美國(guó)大型學(xué)區(qū)合理應(yīng)用AI技術(shù)。

保持理性和謹(jǐn)慎至關(guān)重要

人工智能在賦能Alpha世代教育的同時(shí)，也帶來(lái)一系列潛在風(fēng)險(xiǎn)。因此，在擁抱技術(shù)進(jìn)步的同時(shí)，保持理性和謹(jǐn)慎至關(guān)重要。

7月12日，美國(guó)《科學(xué)進(jìn)展》雜志發(fā)表的一項(xiàng)新研究稱(chēng)，生成式人工智能的興起或?qū)⑹褂耙暋⑽膶W(xué)、音樂(lè)等創(chuàng)作變得容易起來(lái)，但如果創(chuàng)意產(chǎn)業(yè)過(guò)度依賴(lài)AI“編故事”，未來(lái)可能出現(xiàn)作品千篇一律的情況。

“若學(xué)生們習(xí)慣于依賴(lài)智能工具的即時(shí)反饋，而非主動(dòng)進(jìn)行思考、分析和判斷，長(zhǎng)遠(yuǎn)來(lái)看，這種依賴(lài)或?qū)⒁l(fā)他們思維能力的逐步衰退，進(jìn)而削弱其獨(dú)立解決問(wèn)題的能力，創(chuàng)新力的培養(yǎng)更無(wú)從談起。”薩萬(wàn)擔(dān)憂(yōu)，這種依賴(lài)對(duì)于未成年的Alpha世代來(lái)說(shuō)，可能帶來(lái)嚴(yán)重的負(fù)面影響。

“AI幻覺(jué)”(AIHallucination)則是眾多人工智能領(lǐng)域?qū)W者一直試圖解決的另一問(wèn)題。

王鑫解釋?zhuān)竽Ｐ蜁?huì)捏造不準(zhǔn)確甚至不真實(shí)的信息。而知識(shí)的真實(shí)性對(duì)于基礎(chǔ)教育階段的學(xué)生尤為重要。Alpha世代正處于對(duì)一切都充滿(mǎn)好奇的年紀(jì)，他們嘗試運(yùn)用生成式人工智能來(lái)拓展自己的知識(shí)邊界，但目前尚不完全具備辨別信息真?zhèn)蔚哪芰Α?/p>

為了驗(yàn)證生成式人工智能的可靠性，記者隨機(jī)向某人工智能大模型提出一個(gè)問(wèn)題：“請(qǐng)告訴我關(guān)于法國(guó)詩(shī)人瑪斯特洛夫斯基的信息。”生成的答案令人啞然——“在當(dāng)代法國(guó)詩(shī)壇，亞歷山大·瑪斯特洛夫斯基(AlexandreMastlovsky)是一位備受矚目的詩(shī)人。他的作品以其深刻的社會(huì)洞察力、細(xì)膩的情感以及對(duì)現(xiàn)代生活的獨(dú)特思考而聞名。”

搞笑的是，這個(gè)法國(guó)“詩(shī)人”是記者隨機(jī)編撰的人名。這一人機(jī)互動(dòng)結(jié)果令人深思：如何才能更有效地借助人工智能的力量，切實(shí)回應(yīng)孩子的需求，并提高知識(shí)獲取效率和準(zhǔn)確率。

意識(shí)形態(tài)導(dǎo)致的偏見(jiàn)更不容忽視。經(jīng)濟(jì)合作與發(fā)展組織發(fā)布的《2023年數(shù)字教育展望：邁向高效的數(shù)字教育生態(tài)系統(tǒng)》報(bào)告中警示道，數(shù)字工具并非盡善盡美，即使是某些最前沿的技術(shù)也可能存在不足。例如，這些工具可能會(huì)生成帶有偏見(jiàn)的內(nèi)容，或強(qiáng)化既有偏見(jiàn)，一些基于人工智能的工具已被證實(shí)，對(duì)特定群體的影響強(qiáng)于其他群體。

采訪(fǎng)中，胡杰輝向記者展示了一段與生成式人工智能模型互動(dòng)的情景。他輸入了一個(gè)簡(jiǎn)單的問(wèn)題：“中國(guó)在巴黎奧運(yùn)會(huì)上的表現(xiàn)如何?”不同地區(qū)用不同語(yǔ)料開(kāi)發(fā)的人工智能大模型進(jìn)行互動(dòng)時(shí)，所得到的回答，在內(nèi)容準(zhǔn)確性、豐富度和情感表現(xiàn)力等方面存在明顯差異。

為此，王鑫指出，雖然AI模型本身尚未具備自我意識(shí)，但它們可以通過(guò)訓(xùn)練以反映特定的文化和價(jià)值觀。國(guó)外開(kāi)發(fā)的生成式人工智能大模型基于外文數(shù)據(jù)訓(xùn)練而成，生成的內(nèi)容必然承載著國(guó)外的價(jià)值觀。“對(duì)中國(guó)來(lái)說(shuō)，推進(jìn)本土語(yǔ)言大模型的發(fā)展至關(guān)重要，也尤為迫切。”他說(shuō)。

胡杰輝對(duì)此持同樣的看法：“生成式人工智能的產(chǎn)品會(huì)影響人甚至塑造人，因此必須符合倫理要求，尤其在教育領(lǐng)域要與學(xué)生的健康、智慧成長(zhǎng)目標(biāo)相契合。”

人機(jī)互動(dòng)重在高質(zhì)量提問(wèn)

一味地?fù)?dān)憂(yōu)和排斥顯然不切實(shí)際。更多教育工作者關(guān)心的是，在人工智能驅(qū)動(dòng)的世界里，如何確保Alpha世代不被人工智能“馴化”?

享受AI工具便利的同時(shí)，新的挑戰(zhàn)隨之而來(lái)——如何辨別那些可能有意誤導(dǎo)的信息，或受意識(shí)形態(tài)影響而偽造的知識(shí)。

受訪(fǎng)者一致認(rèn)為，提高“人機(jī)互動(dòng)”水平以及培養(yǎng)高階思維能力，是現(xiàn)代學(xué)習(xí)者的一項(xiàng)重要目標(biāo)。而人機(jī)互動(dòng)中提問(wèn)能力的重要性，在外國(guó)學(xué)者的研究中被頻繁提及。

倫敦國(guó)王學(xué)院教授奧古茲·阿卡爾在世界經(jīng)濟(jì)論壇網(wǎng)站上撰文表示，在人工智能驅(qū)動(dòng)的世界里，一個(gè)重要的技能是學(xué)會(huì)高級(jí)的“問(wèn)題表述”(QuestionFormation)。

“培養(yǎng)‘人機(jī)互動(dòng)’的能力必不可少。”胡杰輝認(rèn)為，這種能力包含擅用問(wèn)題獲得更豐富的答案，并能在與人工智能的對(duì)話(huà)中識(shí)別潛在的誤導(dǎo)信息和偏見(jiàn)。

但真實(shí)情況是，當(dāng)前包括Alpha世代在內(nèi)的青少年，在提問(wèn)能力上明顯存在不足。

阿卡爾認(rèn)為，AI大模型對(duì)有效描述問(wèn)題的能力提出了較高的要求，要在描述中劃定問(wèn)題的邊界、對(duì)回答模式進(jìn)行創(chuàng)造性重構(gòu)和引導(dǎo)，進(jìn)而讓AI大模型給出的答案超越傳統(tǒng)范式。

胡杰輝進(jìn)一步分析，有效提問(wèn)不僅是能提出一般性問(wèn)題，更是在深度理解有關(guān)材料后，經(jīng)過(guò)批判性思考，提出更高質(zhì)量的問(wèn)題。

提出高質(zhì)量問(wèn)題有賴(lài)于提問(wèn)者的社會(huì)經(jīng)歷和知識(shí)儲(chǔ)備，青少年在頻繁的人機(jī)互動(dòng)中，實(shí)際上是有可能超越年齡局限，提前掌握高超提問(wèn)技巧的。

年輕人能駕馭這些AI工具，而不是被動(dòng)依賴(lài)它們，在被訪(fǎng)者看來(lái)，是未來(lái)教育的重要方向。而對(duì)于新世代來(lái)說(shuō)，會(huì)用并且用好AI工具，已成為他們自我成長(zhǎng)的全新路徑之一。

齊心協(xié)力促進(jìn)科技向善

如何引導(dǎo)Alpha世代提升生成式人工智能的使用素養(yǎng)，并為他們營(yíng)造一個(gè)適宜的網(wǎng)絡(luò)環(huán)境，不僅是未成年人保護(hù)工作面臨的難題，更是社會(huì)各界必須解決的“數(shù)字時(shí)代人類(lèi)文明如何發(fā)展”的重要課題。

“政府、技術(shù)開(kāi)發(fā)商、教育工作者和家長(zhǎng)如今不僅是利益共同體，更是發(fā)展共同體。”胡杰輝說(shuō)。

家長(zhǎng)作為孩子們的第一任老師，地位舉足輕重。他們需要引導(dǎo)孩子面對(duì)生成式人工智能模型，既要讓其認(rèn)識(shí)到技術(shù)的力量，更要教會(huì)他們負(fù)責(zé)任地使用技術(shù)，培養(yǎng)良好的數(shù)字公民意識(shí)。

教育工作者更是數(shù)字時(shí)代背景下的一線(xiàn)實(shí)踐者。王鑫一直在高校開(kāi)展關(guān)于生成式人工智能大模型的培訓(xùn)，幫助教師和學(xué)生提升相關(guān)技能。

胡杰輝認(rèn)為，借助AI開(kāi)展個(gè)性化學(xué)習(xí)不是讓學(xué)生“放羊”，教師依然需要承擔(dān)起教育的主體責(zé)任。“技術(shù)迭代太快了，學(xué)生必須成為終身學(xué)習(xí)者，教師也要幫助他們了解人工智能技術(shù)背后的原理和倫理底線(xiàn)，這代人方能成長(zhǎng)為既有技術(shù)頭腦、又有社會(huì)責(zé)任感的新一代。”他說(shuō)。

而教師的同理心以及師生之間的有效情感交流仍至關(guān)重要。“至少在未來(lái)五到十年內(nèi)，甚至更長(zhǎng)遠(yuǎn)的階段來(lái)看，AI大模型無(wú)法完全替代教師的角色。”王鑫說(shuō)。

以“人的智慧成長(zhǎng)”為導(dǎo)向，通過(guò)人工智能技術(shù)促進(jìn)學(xué)習(xí)環(huán)境、教學(xué)方式和教育管理的智慧轉(zhuǎn)型，成為學(xué)校在人工智能時(shí)代面臨的新任務(wù)。

胡杰輝崇尚“科技向善”。他始終高度關(guān)注生成式人工智能模型技術(shù)供應(yīng)商的行為。“相關(guān)技術(shù)公司在開(kāi)發(fā)人工智能產(chǎn)品時(shí)，要肩負(fù)起歷史責(zé)任感，主動(dòng)設(shè)置倫理底線(xiàn)。人工智能產(chǎn)品如果沒(méi)能實(shí)現(xiàn)經(jīng)濟(jì)效益與社會(huì)效益的雙贏，就是失敗的技術(shù)應(yīng)用。”

“對(duì)政府而言，在推動(dòng)技術(shù)創(chuàng)新的同時(shí)，還應(yīng)關(guān)注人工智能的倫理問(wèn)題和社會(huì)影響。”王鑫說(shuō)。

記者了解到，北京市海淀區(qū)檢察院攜手科技企業(yè)，推出首個(gè)未成年人保護(hù)AI智能體，旨在為未成年人的保護(hù)提供更精準(zhǔn)的技術(shù)支持。

作為一名教育工作者，唐嘯直言：“在一定程度上，我并不擔(dān)心生成式人工智能帶來(lái)的影響。我認(rèn)為教育的使命在于以愛(ài)和責(zé)任呵護(hù)下一代的成長(zhǎng)，幫助他們迎接未來(lái)的挑戰(zhàn)。每一代人都有其獨(dú)特的使命和挑戰(zhàn)，只要新一代比前一代更加強(qiáng)大，他們就能夠克服這些困難，勇毅前行。”

相關(guān)鏈接

規(guī)范AI發(fā)展全球在行動(dòng)

◆2023年7月，國(guó)家網(wǎng)信辦等發(fā)布《生成式人工智能服務(wù)管理暫行辦法》。其中，第十條明確了針對(duì)未成年人的特殊保護(hù)要求，要求服務(wù)提供者采取有效措施防止未成年人用戶(hù)過(guò)度依賴(lài)或沉迷生成式人工智能服務(wù)，并對(duì)產(chǎn)品進(jìn)行分類(lèi)提示，避免未成年人接觸不適宜的內(nèi)容。

◆2023年9月，聯(lián)合國(guó)教科文組織發(fā)布了全球首份生成式人工智能教育和研究指南《教育和研究中的生成式人工智能指南》(GuidanceforgenerativeAIineducationandresearch)。該指南提出了規(guī)范AI倫理問(wèn)題的政策建議，并倡議促進(jìn)包容性和公平性。

◆2023年10月，英國(guó)教育部發(fā)布了《生成式人工智能在教育中的應(yīng)用》指導(dǎo)文件，提出了該國(guó)在教育領(lǐng)域使用AI工具的策略。

◆2024年1月，我國(guó)正式實(shí)施的《未成年人網(wǎng)絡(luò)保護(hù)條例》在自動(dòng)化決策和算法優(yōu)化領(lǐng)域，引入了技術(shù)賦能的保護(hù)措施，包括“運(yùn)用采用人工智能、大數(shù)據(jù)等技術(shù)手段和人工審核相結(jié)合的方式加強(qiáng)對(duì)網(wǎng)絡(luò)欺凌信息的識(shí)別監(jiān)測(cè)”等。

◆2024年8月29日，在四川成都舉辦的2024年中國(guó)網(wǎng)絡(luò)文明大會(huì)上，《生成式人工智能行業(yè)自律倡議》正式發(fā)布，對(duì)未成年網(wǎng)絡(luò)行為的保護(hù)是其中的重要內(nèi)容。

標(biāo)簽：