生活中，不時出現(xiàn)這樣一幕：孩子們雙眼緊盯手機，上下來回滑動屏幕，只在長輩叮囑時心不在焉地抬頭回應(yīng)。
青少年深陷于各類App無法自拔，這類現(xiàn)象并不鮮見。從事教育工作多年的市人大代表張治捕捉到根本誘因——社交媒體的算法成了“幫兇”。以某視頻類社交媒體為例，為提升用戶黏性，該平臺不斷通過數(shù)據(jù)挖掘構(gòu)建更精準的用戶畫像，通過持續(xù)“投喂”用戶可能感興趣的視頻內(nèi)容。心智尚未成熟的青少年很容易就此上癮。
眼下，上海正加快建設(shè)更具國際影響力的人工智能高地。強化制度供給，推動完善人工智能倫理規(guī)范是關(guān)鍵一環(huán)。恰逢《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》施行滿一年，張治等代表建議，加強面向中小學(xué)生的人工智能算法倫理審查承諾，守住安全邊界，讓算法發(fā)揮更積極的社會價值。
近日，市經(jīng)濟信息化委對代表建議作出回應(yīng)，將在今年年底前計劃出臺人工智能示范應(yīng)用清單，并鼓勵支持企業(yè)、高校、基礎(chǔ)教育機構(gòu)等圍繞智能教育倫理審核開展交流合作，營造更清朗的網(wǎng)絡(luò)空間。
“信息繭房”困住井底之蛙
“投其所好”的算法推薦，不僅令大量青少年沉溺其中，更加速形成“信息繭房”。在不少專家看來，其背后直指信息窄化現(xiàn)象。因為個性定制的算法推薦，部分公共信息難以穿透個人的“繭房”。張治引用互聯(lián)網(wǎng)版的“井底之蛙”故事來生動闡釋：“個性算法推薦下，看過互聯(lián)網(wǎng)的青蛙，其認知中的世界依然只有井口這么大?！?/p>
有網(wǎng)友曾親身實驗，針對同一則視頻內(nèi)容，媽媽和孩子看到的評論天差地別。孩子看到的評論大多在抱怨原生家庭，而媽媽看到的大多是家長在自訴不易。
“無法看到不同的消息、聽到不同的觀點，人們?nèi)菀紫萑肫姷匿鰷u，逐漸失去辨別真相的能力。”在張治看來，這對于身心尚未成熟的青少年來說會有不可估量的負面影響。
國家網(wǎng)信辦等四部門此前曾聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，明確提出算法知情權(quán)、算法選擇權(quán)。具體包括平臺要公示服務(wù)的基本原理、目的意圖和主要運行機制等，用戶可選擇關(guān)閉算法推薦服務(wù)。
不過，有用戶測評后反饋，關(guān)閉各平臺的算法推薦服務(wù)猶如剝洋蔥，少則5步，多則7步。且這項功能通常被藏在“隱私設(shè)置”菜單中，用戶稍不留意就容易錯過。專家認為，接下來要進一步壓實平臺責(zé)任，把算法推薦的“開關(guān)”選擇權(quán)交給用戶。
為算法倫理守住安全邊界
頻繁“投喂”的定制內(nèi)容，不僅擠占了青少年的學(xué)習(xí)生活時間，也刷出了滿滿焦慮。
有研究認為，持續(xù)瀏覽視頻等會加劇青少年的“上行社會比較”，導(dǎo)致青少年偏好與比自己強的人作比較，造成心理落差，帶來負面情緒。
“智能算法要匹配青少年的心理成長規(guī)律，互聯(lián)網(wǎng)企業(yè)在推出產(chǎn)品時首先要在算法上‘自證清白’?！痹趶堉慰磥?，企業(yè)加強內(nèi)部約束機制，針對算法實行合規(guī)管理并制定倫理準則是當務(wù)之急。
在此基礎(chǔ)上，政府還要建立算法備案機制。此前，國家網(wǎng)信辦已開設(shè)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)。截至今年1月，共有102家企業(yè)的223項算法通過了備案?！罢?企業(yè)”的合力監(jiān)管，為算法治理構(gòu)筑了基礎(chǔ)框架。
“光是備案算法和進行安全評估還不夠，更需從算法設(shè)計和應(yīng)用的源頭入手，建立可信的標準規(guī)則，讓設(shè)計者、使用者厘清邊界?！比A東政法大學(xué)助理研究員向秦說。
上海政法學(xué)院教授張繼紅也認為，倫理審查應(yīng)貫穿于算法設(shè)計事前、事中?！叭说挠^念會伴隨設(shè)計進入算法，若僅實施算法的事后審查，不僅效果不佳、整改成本高，且重大風(fēng)險一旦發(fā)生也將很難逆轉(zhuǎn)?！?/p>
事實上，算法追責(zé)在實操層面并不容易。比如，因算法模型導(dǎo)致青少年暴力行為、抑郁情緒，就很難在現(xiàn)實中取證認定。張繼紅更進一步提出，針對高風(fēng)險和中低風(fēng)險的人工智能產(chǎn)品和服務(wù)，算法問責(zé)也應(yīng)實現(xiàn)差異化、精細化，避免問責(zé)過度、過寬從而限制產(chǎn)業(yè)的健康發(fā)展和創(chuàng)新。
專家學(xué)者一致認為，算法審查不能單一強調(diào)監(jiān)管，過程中還應(yīng)充分體現(xiàn)公眾參與。比如，根據(jù)《條例》要求夯實人工智能倫理專家委員會機制，吸納教育、心理等各領(lǐng)域?qū)＜?，并對算法可能造成的社會心理影響進行長期動態(tài)的多維度考量，更好地為算法“立規(guī)矩”。
