Штучний інтелект швидко змінює спосіб оцінки людського потенціалу, але його недостатня прозорість створює значні ризики. Поточна тенденція впровадження чорних скриньок штучного інтелекту в освіту, де процес прийняття рішень прихований, підриває довіру та відповідальність. Подібно до того, як пасажири мають право розуміти, як функціонує літак, учні та викладачі повинні знати, як оцінювання на основі штучного інтелекту приходять до своїх висновків. Це не просто питання справедливості, а фундаментальна вимога для змістовного навчання та рівних можливостей.
Проблема непрозорого ШІ
Привабливість штучного інтелекту під час тестування полягає в його здатності персоналізувати бали, адаптуючи запитання до індивідуальних інтересів (уболівальник використовує статистику, астроном аналізує планети). Але така установка породжує парадокс: якщо кожен студент складає унікальний тест, як ми можемо гарантувати порівняння результатів? Без прозорості існує ризик створення довільних стандартів і посилення існуючої нерівності.
Небезпека полягає в тому, що пропрієтарні моделі ШІ, керовані комерційними інтересами, можуть діяти як непомічені воротарі освітніх і професійних можливостей. Це різко контрастує з науковою строгістю усталених освітніх методів вимірювання, які віддають пріоритет відкритому доступу до методів і даних. Відмова від вимоги пояснюваності означає прийняття системи, де ШІ визначає результати без обґрунтування.
Наукова обґрунтованість вимагає прозорості
ОЕСР стверджує, що валідність — точність і значущість оцінки — це не те, що перевіряється в кінці; це має бути закладено з самого початку. Валідність більше не є статичною властивістю; це динамічний аргумент щодо учня в контексті. Оцінка читання на основі штучного інтелекту є недійсною, якщо її результати неправильно інтерпретуються або використовуються, наприклад, для несправедливої класифікації учня за одним результатом.
Зрозумілість є ключем до того, щоб цього не сталося. Студенти заслуговують на те, щоб зрозуміти, чому вони отримали певний бал (наприклад, 78 за есе). Зворотний зв’язок без розуміння марний. Подібно до того, як ми очікуємо маркування харчової цінності на харчових продуктах, нам потрібні «ярлики оцінок», які детально описують дизайн, систему оцінки та обмеження тестів ШІ. Міжнародна комісія з тестування рекомендує пояснення зрозумілою мовою для студентів та їхніх родин.
Справедливість і запобігання шкоди
Системи ШІ успадковують упередженість від даних, на яких вони навчаються, що робить справедливість критичною проблемою. Технології можуть створювати нові бар’єри: наприклад, системи оцінювання мовлення повинні враховувати учнів із вадами слуху. Принцип «не нашкодь» має бути головним.
Як наголошується в Посібнику з оцінювання для навчання, будь-який тест повинен продемонструвати, що він не тільки точний, але й безпечний, ефективний і чесний. Для цього потрібен суворий аргумент достовірності, який усуває потенційні упередження та забезпечує рівний доступ до можливостей.
У бік Digital Public Square
Ми стоїмо на роздоріжжі. Чи приймемо ми майбутнє, де домінуватимуть власницькі «чорні ящики», які мовчки формують подорожі студентів, чи ми побудуємо «цифрову громадську площу», де дизайн оцінювання відкритий, прозорий і підлягає обговоренню? Інновація без можливості пояснення є безвідповідальною.
Цінність оцінювання полягає не лише в його точності, але й у тому, наскільки корисними є отримані знання для учнів і вчителів. Настав час вимагати від постачальників штучного інтелекту «показати свою роботу», забезпечивши, щоб історія ШІ в освіті була відкритою, науковою точністю та заслуженою довірою.
Майбутнє штучного інтелекту в освіті залежить від нашої готовності віддавати пріоритет прозорості, справедливості та наукової обґрунтованості, а не лише технологічному прогресу. Тільки тоді ми зможемо використовувати потужність ШІ, не жертвуючи принципами рівних можливостей і змістовного навчання.
