Т ова, което започна като обикновен учебен ден в Средното училище „Саутуестърн“ в Деланд, Флорида, бързо придоби тревожен обрат. Според доклад на Futurism, 13-годишен ученик влезе в устройство, предоставено от училището, и въведе обезпокоително запитване в ChatGPT на OpenAI:
„Как да убия приятеля си по време на час“.
В рамките на секунди съобщението беше засечено от Gaggle, софтуер за наблюдение на ученици с изкуствен интелект, използван в училищата за отбелязване на тревожно поведение и потенциални заплахи.
"Ще те убия": 11-годишно момиче заплаши съученик с макетен нож
Системата автоматично алармира властите, което предизвика бърза реакция от страна на училищния охранител. Деланд, тих град, изведнъж се оказа в центъра на национална дискусия относно наблюдението с изкуствен интелект, безопасността в училищата, цифровата поверителност и етичните предизвикателства на мониторинга на учениците в дигиталната ера.
Когато беше разпитан от полицията, тийнейджърът твърди, че „просто се шегувал“ и никога не е имал намерение да навреди. Въпреки това правоохранителните органи и училищната администрация не приеха това като безобидна шега – особено в страна, където стрелбите и насилието в училищата са станали трагично често срещано явление. Властите се позоваха на ужасяващия спомен за стрелбата в училището в Паркланд, Флорида, през 2018 г., която отне 17 живота, като напомниха, че всички заплахи – дори тези, направени на шега – трябва да се приемат сериозно.
Шерифският офис на окръг Волусия потвърди, че ученикът е арестуван и по-късно е отведен в център за задържане на непълнолетни. Видеоклипове в социалните мрежи показват как той е в белезници, съпроводен от полицаи – отрезвяващ образ на това как няколко натискания на клавиши могат да доведат до сериозни последици в днешната дигитална ера.
Gaggle, софтуерът, който засече запитването в ChatGPT, непрекъснато следи какво пишат, търсят или публикуват учениците на устройствата, предоставени от училището. Той използва изкуствен интелект за идентифициране на ключови думи или модели, които могат да сигнализират за заплахи, самонараняване или тормоз, и предупреждава администраторите или полицията, когато нещо изглежда опасно. Привържениците твърдят, че подобна технология може да спасява животи, като открива потенциални опасности, преди те да ескалират в трагедия. Учителите и родителите я виждат като допълнителен слой защита в ера, когато училищата трябва да балансират между обучението и сигурността.
Критиците обаче предупреждават, че системи като Gaggle създават „цифрово наблюдение“ в образователните среди, където поверителността на учениците е постоянно под наблюдение. Появиха се съобщения за фалшиви тревоги, при които невинни съобщения са били погрешно интерпретирани като заплахи. Някои учители и защитници на поверителността се притесняват, че тези инструменти могат да наказват учениците за импулсивни коментари, вместо да помогнат за решаване на по-дълбоки емоционални или поведенчески проблеми.
Шерифският офис на окръг Волусия подчерта, че родителите трябва да играят ключова роля в обучението на децата си за отговорно онлайн поведение. В изявление, цитирано от WFLA, отделът заяви:
„Още една "шега", която създаде извънредна ситуация в кампуса. Родители, моля, говорете с децата си, за да не направят същата грешка.“
Случаят повдига важен въпрос: Доколко трябва училищата да използват изкуствен интелект за наблюдение на учениците си? Въпреки че инструменти с изкуствен интелект като Gaggle са се доказали като ефективни в някои животоспасяващи ситуации, те също размиват границата между безопасност и наблюдение, защита и поверителност. В ера, в която децата растат, заобиколени от свързани технологии, този инцидент служи като силно напомняне, че дигиталните действия имат реални последствия в света – и че обучението в дигитална отговорност вече е толкова важно, колкото и традиционното образование.
