對“人工智能+教育”應(yīng)持審慎態(tài)度

人臉識別進校園引發(fā)爭議實時監(jiān)控或讓學(xué)生變戲精專家認為

人臉識別進校園，既有數(shù)據(jù)安全也有個人隱私問題，包含學(xué)生的個人信息要非常謹慎，能不采集就不采集，能少采集就少采集，尤其涉及個人生物信息的。

網(wǎng)絡(luò)安全法規(guī)定，網(wǎng)絡(luò)運營者收集、使用個人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。

表情監(jiān)控在某種程度上侵犯了學(xué)生的尊嚴，也是對學(xué)生自主學(xué)習(xí)能力和教師授課能力的不信任。學(xué)生長期在監(jiān)控環(huán)境下學(xué)習(xí)、成長，容易養(yǎng)成“表演性人格”。

記者 杜 曉  實習(xí)生 景千姿

隨著人工智能不斷發(fā)展，人臉識別技術(shù)被越來越多地應(yīng)用于校園中。

據(jù)了解，一所知名大學(xué)2019級新生“刷臉”就能瞬間完成報到程序，系統(tǒng)是這所學(xué)校的學(xué)生研發(fā)的，學(xué)生對著攝像頭，人臉識別系統(tǒng)就開始進行比對，眨眼間就能完成掃描，整個報到注冊手續(xù)幾乎不到一秒鐘。此外，通過人臉識別還可以對學(xué)生進行考勤，以及實時觀察學(xué)生的上課狀況等。

對此，教育部科學(xué)技術(shù)司司長雷朝滋認為，“(對于人臉識別技術(shù)應(yīng)用)我們要加以限制和管理。現(xiàn)在我們希望學(xué)校非常慎重地使用這些技術(shù)軟件。教育部已經(jīng)開始關(guān)注這個事情，組織專家論證研究”。

雷朝滋還說，人臉識別進校園，既有數(shù)據(jù)安全也有個人隱私問題，“包含學(xué)生的個人信息都要非常謹慎，能不采集就不采集，能少采集就少采集，尤其涉及個人生物信息的”。

人臉識別進校園究竟會有哪些利弊？《法制日報》記者對此進行了采訪。

實時監(jiān)控課堂表現(xiàn)

老師學(xué)生壓力增大

近日，中國藥科大學(xué)試水“人臉識別進課堂”，在校門口、學(xué)生宿舍、圖書館及部分教室等場所安裝人臉識別系統(tǒng)。這個系統(tǒng)除了能自動識別學(xué)生的出勤情況外，還能識別出學(xué)生是否認真聽講，課堂上抬頭低頭了幾次，低頭是否在玩手機，是否閉眼打瞌睡等。有網(wǎng)友認為，這樣的系統(tǒng)在校園廣泛應(yīng)用或涉嫌“侵犯隱私”。

據(jù)了解，早在2015年，國內(nèi)一所知名高校就曾在高校信息化建設(shè)中首次引入人臉識別技術(shù)。近年來，有些地方的初中出于“提升校園安全”考慮，在校園門口安裝人臉識別考勤系統(tǒng)。

“現(xiàn)在是互聯(lián)網(wǎng)科技時代，到處都講‘互聯(lián)網(wǎng)+教育’,這是教育的創(chuàng)新，我們也很樂意看到新技術(shù)的應(yīng)用能給教育行業(yè)帶來新的生機。”一位從教近10年的高中老師楊妮(化名)對《法制日報》記者說。

“初、高中學(xué)生上課自覺性比較差，需要老師的督促，如果上課期間需要老師不停地維持課堂紀(jì)律，那么課堂質(zhì)量就會有所降低。而且傳統(tǒng)的點名方式浪費時間，準(zhǔn)確率也不高。從這個方面來說，在教室安裝人臉識別系統(tǒng)確實能幫助老師維持課堂的秩序，從而專心把精力放在對課堂內(nèi)容的把控上，很大程度上提高了課堂效率。”楊妮說。

楊妮認為，盡管人臉識別系統(tǒng)能給教學(xué)帶來一些好處，但是如果老師和學(xué)生長期處于人工智能的“監(jiān)視”之下，有可能會適得其反。一旦學(xué)生意識到自己處于監(jiān)控狀態(tài)之下，那他們在課堂中的表現(xiàn)就必然是失真的，老師們無法得到真實的教學(xué)反饋，也不能準(zhǔn)確了解學(xué)生們的興趣點和對知識的掌握情況。

“對于老師而言，在監(jiān)控之下教學(xué)，難免會出現(xiàn)迎合的心態(tài)，無法完全放開自主發(fā)揮。老師們把課堂教學(xué)變成表演，學(xué)生們也在表演，長此以往，教學(xué)效果就會不斷降低。”楊妮說。

西安一名大學(xué)生陳霖(化名)告訴《法制日報》記者，沒有哪個學(xué)生會喜歡這種上課方式。“這就像是有人在一直監(jiān)視你，沒有人會喜歡被監(jiān)視。對于類似的系統(tǒng)，我們肯定是比較抵觸的，如果強制安裝，那只會讓大家的逆反心理更重，根本達不到提高課堂質(zhì)量的效果，學(xué)習(xí)關(guān)鍵還是要靠自覺。”

陳霖就讀的大學(xué)目前已經(jīng)開始通過人臉識別進行考勤，出入宿舍也會有人臉識別。

“這些都是出于安全考慮，我們可以理解，但如果人臉識別真的推廣到教室里，連大家的細微表情都能監(jiān)控，那就有點可怕了。”陳霖說。

人臉識別侵犯隱私

教育創(chuàng)新尊重學(xué)生

據(jù)中國藥科大學(xué)圖書與信息中心有關(guān)負責(zé)人介紹，目前學(xué)校在兩間教室試點安裝的人臉識別系統(tǒng)，除了自動識別學(xué)生出勤情況外，學(xué)生是否認真聽講，課堂上是否抬頭低頭，低頭是否在玩手機，是否閉眼打瞌睡，都逃不過系統(tǒng)的“法眼”。

上述人臉識別系統(tǒng)引起關(guān)注后不久，該人臉識別系統(tǒng)的開發(fā)企業(yè)回應(yīng)稱，該圖為技術(shù)場景化概念演示。針對網(wǎng)友熱議的隱私保護等問題，這家開發(fā)企業(yè)稱，在人工智能技術(shù)的各種場景中，會堅持正當(dāng)性、數(shù)據(jù)隱私保護等核心原則，接受社會的廣泛建議和監(jiān)督。

中國傳媒大學(xué)法律系主任鄭寧認為，人臉識別系統(tǒng)在校園推廣確實有侵犯學(xué)生隱私的可能性。人臉屬于個人生物信息，而且屬于可以識別的個人信息，一旦被泄露或被不法分子利用，風(fēng)險遠遠高于其他信息。

鄭寧告訴《法制日報》記者，網(wǎng)絡(luò)安全法中提到，網(wǎng)絡(luò)運營者收集、使用個人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。網(wǎng)絡(luò)運營者不得收集與其提供的服務(wù)無關(guān)的個人信息，不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集、使用個人信息，并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定和與用戶的約定，處理其保存的個人信息。民法總則也明確提出，自然人的個人信息受法律保護。任何組織和個人需要獲取他人個人信息的，應(yīng)當(dāng)依法取得并確保信息安全，不得非法收集、使用、加工、傳輸他人個人信息，不得非法買賣、提供或者公開他人個人信息。

鄭寧認為，人格尊嚴是法律規(guī)定的人的基本權(quán)利，表情監(jiān)控在某種程度上侵犯了學(xué)生的尊嚴，也是對學(xué)生自主學(xué)習(xí)能力和教師授課能力的不信任。

“作為一線教師，我認為，靠人臉識別系統(tǒng)對學(xué)生進行表情監(jiān)控來提高課堂效率，既不合法，也不合理。提高課堂效率，歸根到底，還是要靠先進的教學(xué)理念和教學(xué)方式、豐富生動的教學(xué)內(nèi)容。”鄭寧說。

21世紀(jì)教育研究院副院長熊丙奇告訴《法制日報》記者，去年，某中學(xué)使用“黑科技”打造“智慧教室”，對學(xué)生進行表情監(jiān)控，以提高課堂教學(xué)效率，輿論對此普遍質(zhì)疑，認為此舉不尊重學(xué)生的人格權(quán)利，侵犯學(xué)生隱私。學(xué)生長期在監(jiān)控環(huán)境下學(xué)習(xí)、成長，容易養(yǎng)成“表演性人格”。因此，對這種所謂的技術(shù)創(chuàng)新應(yīng)該持十分慎重的態(tài)度。

熊丙奇還認為，在資本逐利和學(xué)校提高教學(xué)效果的雙重驅(qū)動下，一些企業(yè)開發(fā)并推廣這種以監(jiān)控學(xué)生上課表情、行為的人工智能系統(tǒng)，也有一些學(xué)校采用這樣的系統(tǒng)，并以使用后的效果，諸如學(xué)生上課更投入，老師管理學(xué)生更方便，學(xué)生成績提升以及學(xué)生間、師生間的沖突與糾紛減少，來論證采用這一系統(tǒng)的科學(xué)性、合理性。

“現(xiàn)代科學(xué)技術(shù)當(dāng)然可以用于教育教學(xué)中，但需要首先分辨清楚教育是什么。很顯然，在教室里安裝監(jiān)控，全天無休地對著學(xué)生，適時采集學(xué)生的表情、動作，這種做法的反教育性質(zhì)比較明顯，但卻得到個別教育管理者和學(xué)校的認可。這是因為有的教育者和辦學(xué)者忽略了教育的本質(zhì)，只是考慮怎么管理方便以及怎樣提高成績。”熊丙奇說，學(xué)校是育人的地方，必須幫助學(xué)生健康成長，所有的教育創(chuàng)新必須以尊重學(xué)生的人格為基本出發(fā)點。

新技術(shù)推廣須謹慎

教育不能偏離正軌

另據(jù)了解，除了中國藥科大學(xué)之外，某小學(xué)也在使用同一套系統(tǒng)。這套系統(tǒng)運用在姿態(tài)評估、表情識別、語言識別、教師軌跡熱力分析等方面，可以捕捉到學(xué)生在校園生活中是否有微笑、向老師問好、主動撿垃圾、列隊整齊等良好行為，或者快速奔跑、摔跤、打架、擁擠等危險動作。

鄭寧認為，在學(xué)校推廣人臉識別技術(shù)要特別慎重。一些學(xué)校啟用人臉識別進出校門，作為校園安全管理措施，有其正當(dāng)性，但應(yīng)該向師生明示收集、使用個人信息的目的、方式、范圍，并取得他們的授權(quán)，并且建立完善的個人信息安全保護措施，防止相關(guān)信息泄露或被不法分子利用，否則要承擔(dān)相應(yīng)的法律責(zé)任。在課堂里利用人臉識別進行表情監(jiān)控，除非經(jīng)過學(xué)生明確授權(quán)，否則應(yīng)當(dāng)禁止。

在熊丙奇看來，教室里可以安裝監(jiān)控，但應(yīng)該只在兩種情況下使用，一是在考試時監(jiān)控考場秩序，二是在獲得教師和學(xué)生同意的情況下，直播課堂教學(xué)，與其他學(xué)校、課堂共享教育資源。如果一直使用監(jiān)控，盯著學(xué)生和教師的上課情況，會讓整個教學(xué)活動變?yōu)楸硌荩瑢W(xué)生的人格成長產(chǎn)生很大的負面影響。

“也有人說安裝監(jiān)控系統(tǒng)，便于教師管理學(xué)生，但其實在監(jiān)控體系之下，教師也是被管理對象，長期使用監(jiān)控系統(tǒng)，對教師的職業(yè)化、專業(yè)化發(fā)展也會有很大的負面影響，教師上課就依靠智能系統(tǒng)的‘反饋’,告訴教師哪個學(xué)生不認真，哪個學(xué)生不專注，這是技術(shù)識別的結(jié)果。離開了技術(shù)手段，老師還會教學(xué)嗎？教育是有情感和靈魂的事業(yè)，無節(jié)制地使用人臉識別等技術(shù)，會把教育變得沒有靈魂和情感，那還不如使用教育機器人。”熊丙奇說。

熊丙奇認為，要讓教育創(chuàng)新符合教育規(guī)律，應(yīng)該由教師委員會和學(xué)術(shù)委員會進行論證，并廣泛聽取教師和學(xué)生的意見，不能由少數(shù)人決定。在資本驅(qū)動下，某些企業(yè)傾向于對一些教育領(lǐng)域的新概念進行炒作，某些學(xué)校會因此變得急功近利，讓“人工智能+教育”的路越走越偏，因此需要及時正本清源、回歸正道。