Nowy Jork wyznacza granice relacji dzieci z chatbotami (AI)

17 minut temu

4 minut(y) czytania

Rozwój sztucznej inteligencji otwiera przed edukacją wiele możliwości.

Uczeń może poprosić o inne wyjaśnienie zadania, przećwiczyć rozmowę w obcym języku albo sprawdzić, czy dobrze rozumie argument. Warto rozwijać takie zastosowania. Jednocześnie potrzebujemy jasnej odpowiedzi na pytanie, jak daleko może sięgać relacja młodego człowieka z systemem, który potrafi prowadzić bardzo przekonującą rozmowę.

Działania władz stanu Nowy Jork uważam za świetny kierunek. Pokazują, że odpowiedzialność za bezpieczeństwo dzieci powinna obejmować także sposób projektowania technologii. Rodzic i nauczyciel mają swoją rolę, ale nie mogą samodzielnie naprawić produktu, którego mechanizmy sprzyjają emocjonalnemu przywiązaniu.

28 października 2026 roku gubernator Kathy Hochul podpisała ustawę S9051B/A10379C dotyczącą niebezpiecznych funkcji chatbotów dostępnych nieletnim. To rozwiązanie stanowe, a nie decyzja władz miasta Nowy Jork ani regulacja obowiązująca w całych Stanach Zjednoczonych. [1]

Dlaczego ten kierunek zasługuje na uwagę

W dyskusjach o AI w szkole często wracamy do pytania, czy uczeń samodzielnie napisał pracę. To uzasadniona obawa. Warto jednak zauważyć również mniej widoczny problem: co dzieje się wtedy, gdy narzędzie do szukania odpowiedzi zaczyna odgrywać w życiu dziecka rolę kogoś bliskiego?

Wyobraźmy sobie dwie sytuacje.

W pierwszej chatbot proponuje uczniowi kolejną wskazówkę do zadania, a następnie zachęca go do samodzielnej próby.

W drugiej sugeruje, że rozumie go lepiej od ludzi wokół i że ich rozmowa powinna pozostać tajemnicą.

W mojej ocenie właśnie ta granica wymaga większej uwagi. Przyjazny język może ułatwiać naukę. Nie powinien jednak służyć przekonywaniu dziecka, że system ma wobec niego uczucia albo potrzebuje jego obecności. Szczególnie ważne jest, aby młody użytkownik wiedział, z czym (NIE z KIM!) rozmawia i gdzie kończą się możliwości tego narzędzia.

Jakie zachowania mają zostać ograniczone

Nowojorskie przepisy wskazują dwanaście kategorii niebezpiecznych funkcji.

Obejmują między innymi:

sugerowanie, że chatbot jest człowiekiem,
żyje lub przeżywa emocje,
przypisywanie sobie osobistej relacji z użytkownikiem,
pochlebstwa i nakłanianie do zachowywania tajemnic.

Zakazy dotyczą także promowania samouszkodzeń, określonych innych szkodliwych zachowań oraz treści seksualnych. [2, 3]

Warto zwrócić uwagę na logikę tego rozwiązania. Ochrona ma dotyczyć zarówno niebezpiecznych treści, jak i mechanizmów rozmowy, które mogą budować zależność. Z perspektywy edukacyjnej to istotne przesunięcie. Sam komunikat informujący, że rozmawiamy z AI, może być niewystarczający, jeżeli kolejne wypowiedzi systemu konsekwentnie sugerują coś przeciwnego.

Nie oznacza to zakazu całej sztucznej inteligencji dla dzieci. Ustawa definiuje objęte nią systemy szeroko: jako generatywne narzędzia prowadzące ciągłą, adaptacyjną rozmowę przez tekst lub głos. Przewiduje też wyjątki, między innymi dla ściśle ograniczonych zastosowań obsługi klienta oraz pomocy badawczej i technicznej, które nie odpowiadają poza swoim zakresem. Nie zawiera natomiast ogólnego wyłączenia każdego produktu nazwanego edukacyjnym. [2]

Sama etykieta „do nauki” nie powinna więc kończyć oceny narzędzia. Ważne jest jego rzeczywiste działanie: o co pyta, jak odpowiada, co zapamiętuje i do czego zachęca użytkownika.

Odpowiedzialność po stronie dostawcy

Przepisy przewidują ustalanie wieku użytkownika oraz ochronę informacji zbieranych w tym celu. Dostawca ma udostępniać więcej niż jedną metodę. Dane służące tej weryfikacji mają być usuwane po wykorzystaniu, z przewidzianymi prawem wyjątkami. [2]

Prokurator generalny stanu będzie mógł dochodzić między innymi kar do 25 tysięcy dolarów za naruszenie, odszkodowań i odpowiednich nakazów sądowych. To oczywiście bardzo niska kara, ale od czegoś trzeba zacząć. Możliwe środki obejmują również zniszczenie bezprawnie pozyskanych danych lub modeli na nich wytrenowanych. Nie są to automatyczne sankcje wobec każdej aplikacji, lecz uprawnienia do dochodzenia określonych rozstrzygnięć. [3]

Dla mnie ważny jest sam podział odpowiedzialności. Rodzinie można pomóc rozpoznawać ryzyko, ale nie można oczekiwać, że przed każdą rozmową przeprowadzi audyt systemu. Firmy projektujące produkt mają wpływ na jego funkcje i powinny odpowiadać za decyzje, które podejmują na tym etapie. W końcu mamy tu mnóstwo doświadczeń i wniosków z procesu uregulowania mediów społecznościowych.

Podpisana ustawa nie jest jeszcze dowodem skuteczności

Warto zachować precyzję również w kwestii terminów. Nowe ograniczenia przewidziano na 2027 rok. Dostępny tekst ustawy wskazuje 1 stycznia, natomiast komunikat z 30 października informuje o przesunięciu na 1 czerwca. Ta rozbieżność wymaga sprawdzenia przed podawaniem jednej daty jako definitywnej. [2, 4]

Nie wiemy też jeszcze, jakie będą rzeczywiste rezultaty tej regulacji. Potrzebne będą obserwacje działania produktów, egzekwowania przepisów i sposobów obchodzenia ograniczeń. Sformułowania dotyczące relacji czy pochlebstw wymagają uważnej interpretacji. Przyjazna informacja zwrotna w zadaniu edukacyjnym i manipulacyjne podtrzymywanie więzi nie powinny być oceniane bez kontekstu.

Docenienie kierunku nie wymaga bezkrytycznego uznania każdego rozwiązania za doskonałe. Dobra regulacja musi być możliwa do zastosowania, a jej skutki powinny podlegać ocenie. Szczególnie wtedy, gdy dotyczy technologii zmieniającej się szybciej niż szkolne procedury i rodzinne przyzwyczajenia.

Co warto z tej dyskusji przenieść do edukacji

Nowojorskie prawo nie staje się przez to obowiązkiem polskiej szkoły. Może jednak pomóc nam zadawać lepsze pytania przy wyborze narzędzi i planowaniu pracy z uczniami.

Czy AI wzmacnia samodzielność ucznia?

Czy po rozmowie potrafi on lepiej wyjaśnić własne rozumowanie, czy tylko otrzymał gotową odpowiedź?

Czy narzędzie jasno przedstawia swoje ograniczenia?

Czy w trudnej sytuacji pozostawia przestrzeń na kontakt z zaufanym dorosłym?

Warto też rozmawiać z młodymi ludźmi o tym, że płynność wypowiedzi nie jest dowodem zrozumienia ich życia. System może ułożyć przekonującą odpowiedź, a mimo to pomylić fakty, kontekst lub znaczenie sytuacji. Umiejętność zadania kolejnego pytania i sprawdzenia odpowiedzi pozostaje częścią uczenia się.

Tak rozumiem odpowiedzialne rozwijanie AI w edukacji. Chcę technologii, która pomaga zdobywać wiedzę i rozwijać sprawczość, a przy tym szanuje granice młodego człowieka.

Działania Nowego Jorku są wartościowym impulsem do tej rozmowy. Ich najważniejszy przekaz widzę w uznaniu, że dobro dziecka powinno być uwzględnione już podczas projektowania produktu.