2024年3月23日，由教育部關(guān)心下一代工作委員會、國家衛(wèi)健委規(guī)劃發(fā)展與信息化司指導(dǎo)，北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院、中國社會管理研究院主辦的“人工智能與下一代健康成長論壇”在京召開。來自教育部、國家衛(wèi)健委、全國婦聯(lián)等有關(guān)部門，北京大學(xué)、北京師范大學(xué)、中國教育科學(xué)研究院、中國移動、科大訊飛、阿里云等單位的專家和企業(yè)代表參會。
論壇上，北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院重磅發(fā)布了《向善而“生”——生成式人工智能技術(shù)發(fā)展中的科技倫理框架研究報告》。該報告是當(dāng)前國內(nèi)從社會倫理和社會治理視角，對生成式人工智能技術(shù)發(fā)展與應(yīng)用開展全面深入研究的重要成果。報告梳理了生成式人工智能帶來的發(fā)展新機遇、主要應(yīng)用場景、技術(shù)運行邏輯、內(nèi)在風(fēng)險機理，分析了生成式人工智能可能帶來的社會風(fēng)險與科技倫理挑戰(zhàn)，并對包容創(chuàng)新發(fā)展、引導(dǎo)科技向善提出了相應(yīng)的政策建議。
《向善而“生”——生成式人工智能技術(shù)發(fā)展中的科技倫理框架研究報告》
北師大互聯(lián)網(wǎng)發(fā)展研究院團隊介紹，在中華優(yōu)秀傳統(tǒng)文化中，就有“道生一，一生二，二生三，三生萬物”的宇宙自然觀?！跋蛏贫保粌H是指生成式人工智能應(yīng)秉持科技向善的原則，為人類服務(wù)，也包含了生成式人工智能將成為一種生生不息的力量，為人類社會發(fā)展注入源源不竭的動力。
報告首先分析了生成式人工智能技術(shù)帶來的發(fā)展新機遇、主要應(yīng)用場景、技術(shù)運行邏輯和內(nèi)在風(fēng)險機理。從當(dāng)前來看，生成式人工智能將主要帶來內(nèi)容創(chuàng)新領(lǐng)域的飛躍、個性化服務(wù)的深化、效率提升與成本優(yōu)化、推進行業(yè)融合與創(chuàng)新等新發(fā)展新機遇；主要應(yīng)用于知識問答、編程反饋、協(xié)同創(chuàng)作等的場景；遵循提出問題、分析需求、生成內(nèi)容、互動反饋、校準(zhǔn)輸出的技術(shù)運行邏輯。此外，生成式人工智能的語料數(shù)據(jù)庫存在真假雙重性與匿名性，人機互動模式以消除用戶隱私性為基本前提，對算法與算力的依賴具有高度的技術(shù)單向性，結(jié)果輸出的高效便捷具有技術(shù)沉溺誘導(dǎo)性，工具理性逐漸凸顯造成理性天平失衡等內(nèi)在機理可能導(dǎo)致風(fēng)險的產(chǎn)生。
機遇·場景·邏輯·機理
報告認(rèn)為現(xiàn)代社會作為一種“風(fēng)險社會”，具有一系列的不確定性。生成式人工智能由于技術(shù)應(yīng)用的不確定性，可能會帶來新型的風(fēng)險社會，造成結(jié)構(gòu)性失業(yè)潮的到來、數(shù)字權(quán)力格局的改變、網(wǎng)絡(luò)內(nèi)容治理的挑戰(zhàn)、版權(quán)歸屬的法律困境、數(shù)字社會層級分化加劇、技術(shù)異化加速、環(huán)境可持續(xù)發(fā)展等問題。
一種新型風(fēng)險社會
報告指出生成式人工智能可能帶來多種倫理風(fēng)險，比如數(shù)據(jù)獲取侵害用戶隱私，內(nèi)置偏見強化社會歧視，深度偽造加劇信任危機，算法黑箱缺乏透明監(jiān)督，工具邏輯弱化價值判斷，類人特征引發(fā)交往困境，技術(shù)依賴降低人類自主。
智能時代的倫理追問
如何有效規(guī)避和應(yīng)對生成式人工智能帶來的風(fēng)險和倫理問題則成為關(guān)乎社會良序運行與可持續(xù)發(fā)展的重大課題。為此，報告建議采取以下七類措施開展有效的技術(shù)規(guī)制與治理，確保AIGC真正向善而“生”：加強教育培訓(xùn)提升全民人工智能素養(yǎng)，構(gòu)建多元主體人工智能治理共同體，以大模型平臺為抓手建立數(shù)字安全監(jiān)管機制，強化人工智能技術(shù)的全過程治理，彌合智能鴻溝推進數(shù)字社會團結(jié)，建立人工智能風(fēng)險預(yù)警與干預(yù)機制，推動人工智能發(fā)展的綠色化轉(zhuǎn)型。
ChatGPT類生成式人工智能的治理路徑
總之，立足當(dāng)下，報告認(rèn)為，安全是發(fā)展的保障，發(fā)展是安全的前提，不發(fā)展是最大的不安全。應(yīng)對生成式人工智能保持開放和包容的態(tài)度，積極擁抱智能時代，加強對技術(shù)發(fā)展的治理，強化對技術(shù)的倫理觀照，真正讓技術(shù)服務(wù)于人，助力人的自由全面發(fā)展。
本文鏈接：http://www.3ypm.com.cn/news-8-2876-0.html北京師范大學(xué)發(fā)布“生成式人工智能科技倫理報告”
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
