Umělá inteligence rychle mění způsob, jakým hodnotíme lidský potenciál, ale její nedostatek transparentnosti představuje značná rizika. Současný trend zavádění černých skříněk umělé inteligence do vzdělávání, kde je rozhodovací proces skrytý, podkopává důvěru a odpovědnost. Stejně jako cestující mají právo porozumět tomu, jak funguje letadlo, studenti a pedagogové potřebují vědět, jak hodnocení založená na umělé inteligenci dospívají ke svým závěrům. To není jen otázka spravedlnosti, ale základní požadavek pro smysluplné učení a rovné příležitosti.
Problém neprůhledné umělé inteligence
Přitažlivost umělé inteligence při testování spočívá v její schopnosti personalizovat skóre přizpůsobením otázek individuálním zájmům (sportovní fanoušek používá statistiky, astronom analyzuje planety). Toto nastavení však vytváří paradox: když každý student absolvuje jedinečný test, jak můžeme zajistit, aby byly výsledky srovnatelné? Bez transparentnosti riskuje vytvoření libovolných standardů a prohloubení stávajících nerovností.
Nebezpečí spočívá v tom, že proprietární modely umělé inteligence, řízené komerčními zájmy, mohou působit jako neodhalení strážci vzdělávacích a profesních příležitostí. To ostře kontrastuje s vědeckou přísností zavedených vzdělávacích metod měření, které upřednostňují otevřený přístup k metodám a datům. Odmítnutí požadavku vysvětlitelnosti znamená přijetí systému, kde umělá inteligence určuje výsledky bez odůvodnění.
Vědecká spolehlivost vyžaduje transparentnost
OECD tvrdí, že validita – přesnost a významnost hodnocení – není to, co se testuje na konci; musí být stanoveno od samého začátku. Platnost již není statickou vlastností; je to dynamický argument o studentovi v kontextu. Hodnocení čtení na základě umělé inteligence je neplatné, pokud jsou jeho výsledky nesprávně interpretovány nebo použity například k nespravedlivé kategorizaci studenta na základě jednoho výsledku.
Vysvětlitelnost je klíčem k tomu, aby se to nestalo. Studenti si zaslouží pochopit, proč dostali určité skóre (například 78 za esej). Zpětná vazba bez pochopení je k ničemu. Stejně jako očekáváme nutriční štítky na potravinách, potřebujeme „bodové štítky“, které podrobně popisují design, systém bodování a omezení testů AI. International Testing Board doporučuje studentům a jejich rodinám vysvětlení srozumitelným jazykem.
Spravedlnost a prevence škod
Systémy umělé inteligence dědí zkreslení z dat, na kterých jsou trénovány, a proto je férovost kritickým problémem. Technologie mohou vytvářet nové bariéry: systémy hodnocení řeči musí brát v úvahu například studenty se sluchovým postižením. Zásada „neubližovat“ musí být prvořadá.
Jak zdůrazňuje Guide to Assessment for Learning, každý test musí prokázat, že je nejen přesný, ale také bezpečný, účinný a spravedlivý. To vyžaduje přísný argument o platnosti, který řeší potenciální předsudky a zajišťuje rovný přístup k příležitostem.
Směrem k Digital Public Square
Stojíme na křižovatce. Přijmeme budoucnost ovládanou patentovanými „černými skříňkami“, které tiše formují studentské cesty, nebo postavíme „digitální veřejné náměstí“, kde bude návrh hodnocení otevřený, transparentní a vyjednávatelný? Inovace bez vysvětlitelnosti je nezodpovědná.
Hodnota hodnocení spočívá nejen v jeho přesnosti, ale také v tom, jak užitečné jsou výsledné znalosti pro studenty a učitele. Nastal čas vyžadovat od poskytovatelů umělé inteligence, aby „ukázali svou práci“ a zajistili, že příběh umělé inteligence ve vzdělávání je příběhem otevřenosti, vědecké přísnosti a získané důvěry.
Budoucnost umělé inteligence ve vzdělávání závisí na naší ochotě upřednostňovat transparentnost, spravedlnost a vědeckou platnost – nejen technologický pokrok. Jen tak můžeme využít sílu umělé inteligence, aniž bychom obětovali principy rovných příležitostí a smysluplného učení.
