中國科學(xué)院院士高福：

AI時(shí)代更需警惕“信息病毒”

  “科技倫理跟科學(xué)一樣重要，只有在倫理的約束下，才能確保科學(xué)朝正確的方向發(fā)展。”2024年11月22日，中國科學(xué)院院士、中國生物工程學(xué)會(huì)理事長高福在第二屆中國科技倫理高峰論壇上如是說。

  在生命科學(xué)領(lǐng)域，倫理向來是一個(gè)重要議題。高福指出，倫理學(xué)是建立在道德之上的學(xué)問，講倫理必先講道德。生命倫理學(xué)是把倫理學(xué)原理應(yīng)用于生命領(lǐng)域，尤其是醫(yī)學(xué)領(lǐng)域中有關(guān)倫理道德問題的學(xué)科。

  在萬物互聯(lián)、人工智能（AI）加速發(fā)展的今天，科技倫理的內(nèi)涵也必然需要隨之發(fā)展。

  高福引用了著名哲學(xué)家羅素在一次采訪中的回答，強(qiáng)調(diào)科技倫理的核心是道德，本質(zhì)則是哲學(xué)問題。“一個(gè)是智慧，當(dāng)你在做任何研究時(shí)，都需要不斷問自己，什么是事實(shí)以及事實(shí)揭示了什么真相。另一個(gè)是道德，愛是明智的，而恨是愚蠢的。”

  在高福看來，當(dāng)前尤其要注意由虛假信息引發(fā)的問題。“我曾經(jīng)讓學(xué)生調(diào)研晝夜節(jié)律對(duì)疫苗接種效果的影響，他找到5篇論文，只有1篇是真實(shí)的，另外4篇都是AI編造的。”

  當(dāng)真真假假的信息混雜在一起，人們?cè)桨l(fā)無法判斷信息的真實(shí)性，而社交媒體又加速了這些虛假信息的傳播，高福將之形容為“信息流行病”。

  “‘信息流行病’的英文是infodemic，由information和 epidemic合成。‘信息流行病’是‘信息病毒’引起的，其英文是information virus，我把它們合成為inforus。”高福說。

  “‘信息病毒’和謠言不一樣，謠言能夠輕易識(shí)別，但‘信息病毒’是指在謠言中夾雜著一些真實(shí)信息，導(dǎo)致難以識(shí)別。”高福解釋。

  高福認(rèn)為，“信息流行病”和“信息病毒”已經(jīng)催生出一個(gè)新學(xué)科——“信息流行病學(xué)”（infodemiology）。如果說社交媒體加速了信息的傳播，生成式AI的發(fā)展和大量使用，則使信息的真實(shí)性越發(fā)難以界定。

  為此，科普工作十分重要。“科普是社會(huì)疫苗，做科普打疫苗，可以預(yù)防‘信息流行病’。”近年來，高福每年都會(huì)寫1至2本科普書，呼吁廣大科研人員在科研之余，積極投身科普工作，引導(dǎo)公眾用科學(xué)知識(shí)武裝頭腦，增強(qiáng)對(duì)“信息病毒”的免疫力。

  在報(bào)告中，高福再一次倡導(dǎo)了4C原則：Cooperation（合作）、Competition（競爭）、Communication（溝通）、Coordination（協(xié)調(diào)）。他強(qiáng)調(diào)，科學(xué)發(fā)展需要一定的競爭，但更需要合作，高效的溝通交流和充分的意見交換十分必要。

  “科學(xué)無國界，本質(zhì)是回答全人類未知的問題，這決定了科技倫理的規(guī)則也應(yīng)該是全球性的。”高福表示。正如此次論壇的主題“跨越邊界，共塑未來”，解決科學(xué)問題需要不同領(lǐng)域的科學(xué)家通力合作，對(duì)事關(guān)科技向善的倫理也需要跨越國界，制定全球一致的倫理標(biāo)準(zhǔn)。■