Ryzyko związane z wykorzystaniem sztucznej inteligencji rośnie wraz z jej popularnością w szkołach. Jak wynika z badania przeprowadzonego przez Center for Democracy and Technology (CDT), wzrasta ryzyko naruszania danych, zastraszania i innych problemów.

LEAD Technologies Inc. V1.01

Według danych z ankiety opublikowanej przez Center for Democracy and Technology, zdecydowana większość uczniów (86%) i nauczycieli (85%) przyznała, że ​​w roku szkolnym 2024–2025 korzystała ze sztucznej inteligencji . Jednak, rosnące wykorzystanie sztucznej inteligencji w środowisku edukacyjnym wiąże się ze zwiększonym ryzykiem dla uczniów. Badanie wykazało, że im częściej szkoła korzysta ze sztucznej inteligencji, tym bardziej uczniowie są narażeni na:

• naruszenia bezpieczeństwa danych,
• ataki komputerowe z żądaniem okupu,
• molestowanie seksualne,
• zastraszanie,
• nieprawidłowe działanie systemów sztucznej inteligencji,
• niepokojące interakcje między uczniami a narzędziami sztucznej inteligencji.

Istnieje pilna potrzeba zajęcia się ryzykiem związanym z powszechnym wykorzystaniem sztucznej inteligencji w szkołach – zwłaszcza że administracja Trumpa nadal priorytetowo traktuje sztuczną inteligencję w edukacji. Ja również spotykam wiele artykułów w edukacji USA propagujących używanie AI.

CDT odkryło, że połowa uczniów przyznała, że ​​korzystanie ze sztucznej inteligencji na zajęciach zmniejsza ich poczucie więzi z nauczycielem, a 38% stwierdziło, że łatwiej jest rozmawiać z AI niż z rodzicami.

Tylko 11% nauczycieli zgłosiło, że przeszło szkolenie z zakresu reagowania w przypadku podejrzenia, że ​​uczeń korzysta ze sztucznej inteligencji w sposób, który może zaszkodzić jego samopoczuciu.

CDT zwróciło uwagę na obawy dotyczące problematycznych relacji, jakie niektórzy uczniowie nawiązują z wykorzystaniem narzędzi AI. 42% uczniów w roku szkolnym 2024/25  – stwierdziło, że oni lub ich przyjaciele korzystali ze sztucznej inteligencji w celu wsparcia zdrowia psychicznego, poprzez kreowanie w AI przyjaciół i towarzyszy lub jako sposób na ucieczkę od rzeczywistości. Około 19% uczniów przyznało również, że wykorzystywało sztuczną inteligencję w relacjach romantycznych.

Zdaniem organizacji zajmujących się bezpieczeństwem dzieci w mediach i zdrowiem psychicznym, jest to szczególnie niebezpieczne dla osób przed 18 rokiem. Ich zdaniem „pomocnicy” AI stanowią poważne zagrożenie dla zdrowia psychicznego dzieci i młodzieży, zwłaszcza osób ze skłonnościami depresyjnymi, zaburzeniami lękowymi, ADHD i chorobą afektywną dwubiegunową.

Aby zwalczyć problem towarzyszy AI, jeden z ekspertów ds. zdrowia psychicznego radzi szkołom prowadzenie lekcji na temat korzystania z tych narzędzi. Szkoły powinny jasno wyjaśnić uczniom, że towarzysze AI nie są ludźmi i że uczniowie powinni omawiać ważne kwestie z zaufaną osobą dorosłą. Moim zdaniem samo wyjaśnienie nie da efektów, jeśli dzieci nie mają dobrych relacji w rzeczywistym świecie, to sięgają po relacje w AI.

CDT stwierdziło również, że sztuczna inteligencja może stanowić zagrożenie dla cyberbezpieczeństwa szkoły. Im bardziej nauczyciele polegają na sztucznej inteligencji w swojej pracy, tym większe jest naruszenia bezpieczeństwa danych na dużą skalę.

36% ankietowanych przez CDT w roku szkolnym 2024/25 uczniów zgłosiło problem w swojej szkole związany z deepfake’ami – fałszywymi nagraniami audio, filmami, zdjęciami lub nagraniami audio tworzonymi przez sztuczną inteligencję tak, aby wyglądały na prawdziwe.

W maju prezydent Donald Trump podpisał ustawę Take It Down Act , która uznaje za przestępstwo używanie sztucznej inteligencji do tworzenia fałszywych obrazów bez zgody osoby, której dotyczą.

Moim zdaniem nie można oddzielić problemu korzystania z AI od problemu braku budowania dobrych relacji. Jeśli nie ma zaufania i troski w szkole i w domu, to sztuczna inteligencja „wygra”.

Inspiracja artykułem Anna Merod