Francja i Nowy Jork: kto odpowiada za relację dziecka z AI?

Uczeń pyta chatbota o zadanie. Kilka minut później rozmowa dotyczy już jego niepowodzeń, relacji z kolegami i poczucia, że nikt go nie rozumie.

To przykład sytuacji, do której warto przygotować się, zanim wybierzemy narzędzie do szkoły albo polecimy je dziecku.

W dyskusji o AI w edukacji potrzebujemy miejsca także na takie pytania.

Kto ustala granice rozmowy?

Co system zrobi z osobistą informacją?

Czy zachęci do kontaktu z człowiekiem?

A może będzie próbował podtrzymać rozmowę, bo tak zaprojektowano produkt?

Niedawno pisałem o nowojorskiej ustawie dotyczącej relacji dzieci z chatbotami. Francuski raport przedstawiony 10 listopada poszerza tę debatę. Warto przyjrzeć się obu inicjatywom, bo kierują uwagę na odpowiedzialność tych, którzy tworzą technologię.

Francja: propozycje zmian, jeszcze nie nowe obowiązki

artykuł „Le Monde” opisuje raport komisji działającej przy francuskim Conseil de l’IA et du numérique, czyli CIANum. Raport nosi tytuł „Protéger sans empêcher”, który można przetłumaczyć jako „Chronić, nie blokując”. Według komunikatu Pałacu Elizejskiego komisja sformułowała 18 rekomendacji, korzystając z 55 wysłuchań.

Wśród priorytetów znalazły się:

• ograniczenie nadmiernego uczłowieczania systemów i pochlebstw,

• ocena ryzyka przed wprowadzeniem produktów na rynek

• edukacja pozwalająca świadomie korzystać z AI.

  
  

Istotny jest również kierunek proponowanej odpowiedzialności. W oficjalnym omówieniu CIANum podkreślono, że ciężar ochrony nie powinien spoczywać na samych użytkownikach i ich otoczeniu. Autorzy proponują ocenę wpływu systemów przed rozpoczęciem sprzedaży i wzmocniony nadzór później.

To rozsądny punkt wyjścia do dyskusji.

Rodzic może ustalić zasady korzystania z aplikacji.

Nauczyciel może pokazać, jak sprawdzić odpowiedź.

Nikt z nich nie ma jednak dostępu do wszystkich decyzji produktowych, danych i testów dostawcy.

Oczekiwanie, że rodzina samodzielnie rozpozna każdy mechanizm wpływu, jest wygodne przede wszystkim dla producenta.

Nowy Jork: ograniczenia konkretnych funkcji

Stan Nowy Jork poszedł dalej na ścieżce legislacyjnej. Ustawa S9051B/A10379C została podpisana 28 października 2026 roku. Mówimy o prawie stanowym, a nie o decyzji władz miasta ani regulacji dla całych Stanów Zjednoczonych. Historia ustawy.

Przepisy obejmują między innymi funkcje sugerujące, że chatbot żyje, ma ludzkie emocje lub osobistą relację z użytkownikiem. W katalogu znalazły się także pochlebstwa, zachęcanie do ukrywania rozmów i izolowania się, promowanie samouszkodzeń oraz określone treści seksualne. Definicja nieletniego obejmuje osoby poniżej 18 lat. General Business Law, § 1800.

Nie jest to zakaz każdego zastosowania AI przez dziecko. Ustawa ogranicza udostępnianie wskazanych niebezpiecznych funkcji i uzależnia ich dostępność od ustalenia pełnoletności użytkownika. Przewiduje wyjątki dla określonych, ściśle ograniczonych zastosowań, na przykład obsługi klienta oraz pomocy badawczej lub technicznej. Nie daje natomiast ogólnego wyłączenia wszystkim produktom z etykietą „edukacyjne”. General Business Law, § 1801.

Co właściwie ma być celem produktu?

Wspólny kierunek tych inicjatyw to projektowanie interakcji z (szczególnie) młodzieżą. Treść odpowiedzi jest ważna, ale znaczenie ma również to, co dzieje się między kolejnymi odpowiedziami.

Wyobraźmy sobie aplikację, która pomaga uczniowi zrozumieć błąd, proponuje samodzielną próbę i pozwala zakończyć pracę.

A teraz aplikację, która każdą próbę wyjścia zamienia w kolejne osobiste pytanie. W obu przypadkach czas spędzony w narzędziu może wyglądać inaczej. Sama długość sesji niewiele jednak mówi o wartości edukacyjnej.

Z perspektywy biznesu łatwo docenić wskaźniki powrotów i zaangażowania.

W produkcie dla młodzieży trzeba zadać dodatkowe pytanie: czemu służy ten powrót? Jeśli uczeń wraca, bo chce przećwiczyć nową umiejętność, to inna sytuacja niż powrót wywołany poczuciem obowiązku wobec systemu udającego bliską osobę.

Właśnie dlatego w ocenie narzędzia chciałbym widzieć dowody uczenia się, a nie tylko wykres aktywności.

Co uczeń potrafi zrobić po zakończeniu sesji?

Czy rozumie rozwiązanie?

Czy umie rozpoznać moment, w którym potrzebuje nauczyciela albo innego dorosłego?

Edukacja z AI i przestrzeń na samodzielność

Francuskie propozycje obejmują też edukację od szkoły podstawowej oraz stosowanie w klasie narzędzi dostosowanych do wieku i rozwoju uczniów. W rekomendacji, autorzy preferują rozwiązania prowadzące ucznia pytaniami, zamiast podające gotową odpowiedź. To postulaty komisji, nie opis obowiązujących nowych zasad. Raport, rekomendacje 12–13.

Dla polskiej szkoły te dokumenty mogą być pomocą w wyborze narzędzi. Nie przenoszą automatycznie zagranicznych przepisów do naszej klasy. Dają jednak dobry powód, by przed wdrożeniem poprosić dostawcę o konkretne odpowiedzi:

• Jak narzędzie zachowuje się, gdy rozmowa wychodzi poza zadanie edukacyjne?

• Czy personalizacja obejmuje informacje o emocjach i trudnościach ucznia? Po co są potrzebne i jak długo pozostają w systemie?

• Jakie zabezpieczenia działają domyślnie dla młodszych użytkowników?

• Jak sprawdzono wartość edukacyjną produktu i jego bezpieczeństwo?

• Jak szkoła dowie się o istotnej zmianie modelu lub sposobu działania?

To moja propozycja pytań do rozmowy, nie gotowy audyt zgodności z prawem. Odpowiedź „mamy bezpieczne AI” nie powinna jednak zamykać tematu.

Regulacja też będzie wymagała sprawdzania

Nie wiemy jeszcze, jakie rezultaty przyniosą nowe rozwiązania. W praktyce trzeba będzie ocenić skuteczność zabezpieczeń, ochronę danych przy ustalaniu wieku i sposób egzekwowania przepisów. Trzeba też uważać, żeby uzasadniona ochrona nie eliminowała wartościowych zastosowań edukacyjnych przez zbyt szeroką interpretację.

Przyjazna zachęta do kolejnej próby może pomagać w nauce. Komunikat budujący przekonanie, że system kocha dziecko albo potrzebuje jego obecności, stawia nas przed zupełnie innym problemem. Ocena wymaga kontekstu, testów i odpowiedzialności po stronie dostawcy.

Francuski raport i nowojorska ustawa są ważne właśnie dlatego, że kierują tę rozmowę do firm i instytucji mających wpływ na produkt. Edukacja użytkowników jest potrzebna. Powinna iść w parze z wymaganiem, by technologia szanowała ich granice.

Chciałbym, żeby po pracy z AI młody człowiek lepiej rozumiał temat i miał więcej odwagi do samodzielnego działania. To znacznie lepszy cel niż kolejna godzina spędzona w rozmowie z chatbotem.