Sztuczna inteligencja szybko zmienia sposób, w jaki oceniamy potencjał ludzki, ale jej brak przejrzystości stwarza poważne ryzyko. Obecny trend wprowadzania czarnych skrzynek AI do edukacji, gdzie proces decyzyjny jest ukryty, podważa zaufanie i odpowiedzialność. Tak jak pasażerowie mają prawo rozumieć, jak funkcjonuje samolot, tak uczniowie i nauczyciele muszą wiedzieć, w jaki sposób oceny oparte na sztucznej inteligencji wyciągają wnioski. Nie jest to po prostu kwestia uczciwości, ale podstawowy wymóg znaczącego uczenia się i równych szans.
Problem nieprzejrzystej sztucznej inteligencji
Atrakcyjność sztucznej inteligencji w testowaniu polega na możliwości personalizacji wyników poprzez dostosowanie pytań do indywidualnych zainteresowań (kibic sportu korzysta ze statystyk, astronom analizuje planety). Taka konfiguracja powoduje jednak paradoks: jeśli każdy uczeń przystępuje do unikalnego testu, jak możemy zapewnić porównywalność wyników? Brak przejrzystości stwarza ryzyko stworzenia arbitralnych standardów i pogłębienia istniejących nierówności.
Niebezpieczeństwo polega na tym, że zastrzeżone modele sztucznej inteligencji, motywowane interesami komercyjnymi, mogą działać jako niewykryci strażnicy możliwości edukacyjnych i zawodowych. Kontrastuje to ostro z rygorem naukowym ustalonych edukacyjnych metod pomiaru, które traktują priorytetowo otwarty dostęp do metod i danych. Odrzucenie wymogu wyjaśnialności oznacza zaakceptowanie systemu, w którym sztuczna inteligencja określa wyniki bez uzasadnienia.
Rzetelność naukowa wymaga przejrzystości
OECD argumentuje, że ważność – dokładność i znaczenie oceny – nie jest tym, co jest testowane na końcu; trzeba to ułożyć od samego początku. Ważność nie jest już właściwością statyczną; jest to dynamiczny argument na temat ucznia w kontekście. Ocena czytania oparta na sztucznej inteligencji jest nieważna, jeśli jej wyniki zostaną błędnie zinterpretowane lub wykorzystane, na przykład do niesprawiedliwego sklasyfikowania ucznia na podstawie jednego wyniku.
Wyjaśnialność jest kluczem do zapewnienia, że tak się nie stanie. Uczniowie zasługują na zrozumienie, dlaczego otrzymali określoną liczbę punktów (na przykład 78 za esej). Opinia bez zrozumienia jest bezużyteczna. Tak jak oczekujemy etykiet wartości odżywczej na żywności, potrzebujemy „etykiet punktacji”, które szczegółowo opisują projekt, system punktacji i ograniczenia testów AI. Międzynarodowa Komisja Egzaminacyjna zaleca wyjaśnienia uczniom i ich rodzinom prostym językiem.
Uczciwość i zapobieganie szkodom
Systemy sztucznej inteligencji dziedziczą stronniczość z danych, na których są szkolone, co sprawia, że sprawiedliwość ma kluczowe znaczenie. Technologia może tworzyć nowe bariery: systemy oceny mowy muszą uwzględniać na przykład uczniów z wadami słuchu. Zasada „nie szkodzić” musi być najważniejsza.
Jak podkreśla Przewodnik po ocenianiu uczenia się, każdy test musi wykazać, że jest nie tylko dokładny, ale także bezpieczny, skuteczny i uczciwy. Wymaga to rygorystycznego argumentu ważności, który uwzględnia potencjalne uprzedzenia i zapewnia równy dostęp do możliwości.
W stronę Cyfrowego Placu Publicznego
Stoimy na rozdrożu. Czy przyjmiemy przyszłość zdominowaną przez zastrzeżone „czarne skrzynki”, które po cichu kształtują podróże uczniów, czy też zbudujemy „cyfrowy plac publiczny”, w którym projekt oceniania będzie otwarty, przejrzysty i podlega negocjacjom? Innowacja bez możliwości wyjaśnienia jest nieodpowiedzialna.
Wartość oceny polega nie tylko na jej trafności, ale także na tym, jak przydatna jest uzyskana wiedza dla uczniów i nauczycieli. Nadszedł czas, aby wymagać od dostawców sztucznej inteligencji, aby „pokazali swoją pracę”, upewniając się, że historia sztucznej inteligencji w edukacji charakteryzuje się otwartością, rygorem naukowym i zdobytym zaufaniem.
Przyszłość sztucznej inteligencji w edukacji zależy od naszej chęci priorytetowego traktowania przejrzystości, równości i wiarygodności naukowej – a nie tylko postępu technologicznego. Tylko wtedy będziemy mogli wykorzystać moc sztucznej inteligencji bez poświęcania zasad równości szans i wartościowego uczenia się.
