南方財經全媒體記者 陳思琦 深圳報道

“機器人不得傷害人類個體，必須服從人給予它的命令，在不違反前述二者的情況下盡可能保護自己的生存?！?/p>

1950年，科幻小說作家艾薩克·阿西莫夫在《我，機器人》中提出“機器人三定律”，讓世界警惕技術進步帶來的反噬與反叛風險。

(資料圖片)

連日來，“AI教父”杰弗里·辛頓（Geoffrey Hinton）從谷歌離職、馬斯克聯合近千科技人員呼吁未來6個月暫停訓練巨型GPT模型——ChatGPT浪潮下，人工智能倫理爭議愈發激烈，“三定律”有了衍生意義。

“ChatGPT使社會系統結構發生變化，要求我們更注重人機關系研究。人工智能不再是單純的輔助工具，而是走向了人機融合、人機平衡?！?/p>

在5月5日于深圳大學舉辦的“智慧城市與數字經濟交叉學科高端論壇”上，華中科技大學特聘教授、中國管理科學與工程學會副理事長王紅衛作為首位發言者，以對人機關系的關注開啟了接近3小時的圓桌討論。

與會專家認為，ChatGPT等技術可為管理學、心理學、地理學等領域研究提供極大幫助，但隨之而來的技術倫理問題要求我們關注立法，以完善的制度法規約束AI的無序發展。

另一方面，技術的迅猛進步對人才培養提出新的挑戰。25年前，誕生于深圳的騰訊被認為破解了互聯網“密碼”。如今培養破解AI“密碼”的創新團隊，深圳最具土壤，要求高校從源頭上推進科技與人文的雙輪驅動，重構教育體系以培養更多具備跨學科素養的“多面手”。

實現可控、有邊界的AI發展

ChatGPT橫空出世，能以極快的速度回答各種領域的問題，被認為大大提高了人類的工作效率與生活質量。

然而，直接引用ChatGPT答案會產生極大的倫理風險，如個人隱私侵犯、虛假信息傳播等。離開谷歌的辛頓也坦言，網上充斥的虛假圖片、視頻和文字，將讓普通人“無法再辨別真假”。

論壇上，中國人民大學信息學院教授、中國計算機學會會士孟小峰指出，當前ChatGPT“吃”掉的素材全是人類的知識成果，與人類自身吸收、學習的素材同源，而人類消化了同樣的信息可能無法生成與ChatGPT同等質量的答案。

“核聚變是毀滅人類的，‘可控的’核聚變才可被人類應用。人工智能同樣不能直接服務于經濟社會，需要像核聚變一樣探索一個可控的、有邊界的機制?！?/strong>

孟小峰認為，不能單純從倫理角度“一刀切”地認為ChatGPT生成的結果不可接受，人工智能也需要一套可控的技術體系。

深圳大學黨委書記、光明實驗室主任李清泉則強調了法律約束的重要性。技術發展的“可控”需要加強頂層設計和規劃，從法律法規到產業扶持政策都需進一步完善，尤其法律的約束對象要從“人”拓展到人工智能。

以智能駕駛為例，即使技術達到相對成熟的水平，其大規模推廣也面臨著復雜城市路況帶來的高度不確定性與道德倫理困境，事故權責歸屬問題尤為棘手。

在這方面，深圳發揮經濟特區立法優勢，于2022年8月出臺實施全國首部智能網聯汽車管理法規《深圳經濟特區智能網聯汽車管理條例》，全國首部人工智能產業專項立法《深圳經濟特區人工智能產業促進條例》也于去年11月正式生效。

學界與業界也持續發力。李清泉透露，以深圳大學為牽頭建設單位的人工智能與數字經濟廣東省實驗室（深圳）（即光明實驗室）正在探索與保險公司合作，生成無人駕駛的保費模型。

推進科技與人文的雙輪驅動

“藝術與科學總是在山腳下分手，又在山頂上相遇?！闭绶▏骷腋前菟?，科學思維與藝術思維是相輔相成、相得益彰的。

與會專家認為，ChatGPT對高校人才培養帶來了新的機遇和挑戰，要求重構教育體系，重視科技與人文雙輪驅動，培養學生成為具備多學科素養的“多面手”。

北京大學計算機學院教授、中國計算機學會會士李曉明提到，其曾在北京大學開設通識課程“社會科學中的計算思維方法”“社會科學問題研究的計算實踐”等，培養人文社科學生的計算思維。

如今擔任大灣區大學（籌）科教負責人，李曉明透露，該校擬面向全校開設一門為期一年的計算機通識課，而這將是一門“認真的通識課”，幫助學生邁出舒適圈，推進理工科與人文社科更緊密地融合。

華東師范大學心理與認知科學學院院長周曉林提出，ChatGPT在很多方面的行為表現與人非常相似，但在心理學領域，還缺乏“機器人心理學”這類二級學科。

周曉林舉例說，機器人行走的角度與速度不同，與人類發生碰撞的可能性不同，人類由此產生的心理認知也有很大差異。因此，建議高校設置“機器人心理學”等前沿學科，探索將人類的心理特性融入機器人設計中，讓心理學更好賦能技術進步。

“ChatGPT成功的背后，是一幫年輕人掌握了‘密碼’。我們要培養潛心修煉、能夠破解AI‘密碼’的創新團隊，而深圳最有培養這種團隊的土壤和條件?！泵闲》鍖υ杏鲵v訊，在互聯網浪潮中取得先機的深圳寄予厚望。

深圳大學作為深圳高等教育“長子”，李清泉透露，該校正探索將ChatGPT等技術與教育信息化結合，為傳統教育賦能。

“公立大學受限于成本，長期以來難以實現個性化教育。而ChatGPT可以根據學生的基礎條件、素質、愛好等，生成其所需要的課程，并根據其學習過程展開評價，對后續的學習提供有針對性的幫助。深大希望在這方面積極探索，起到引領作用?！崩钋迦硎尽?/p>

關鍵詞：