Штучний інтелект у гуманітарних дослідженнях: як використовувати можливості та уникати ризиків?
Нові інструменти відкривають значні можливості для досліджень. Та що саме можна делегувати ШІ — і де незамінною залишається відповідальність людини?
26 жовтня Гуманітарний дослідницький хаб Альянсу українських організацій громадянського суспільства провів онлайн-сесію, присвячену використанню штучного інтелекту в гуманітарних дослідженнях.
Спікером заходу став Thomas Byrnes (Томас Бернс) — дослідник і консультант із багаторічним досвідом роботи в гуманітарному секторі, зокрема в Norwegian Refugee Council та UNICEF.
У центрі обговорення — практичні можливості генеративного ШІ, достовірність результатів, захист чутливих даних і відповідальне впровадження нових технологій у роботу гуманітарних організацій.
ШІ вже використовують. Але чи готові до цього організації?
Одна з проблем, на які звернув увагу спікер, — розрив між фактичним використанням штучного інтелекту працівниками та наявністю організаційних політик, які визначають правила його застосування.
Це створює ситуацію так званого shadow AI — використання працівниками ШІ-інструментів поза офіційно погодженими процедурами. На думку спікера, замість заборон або замовчування організаціям варто відкрито обговорювати можливості й ризики технології, навчати команди та встановлювати зрозумілі правила роботи.
Головне питання — що саме ми делегуємо штучному інтелекту?
ШІ може прискорити систематизацію великих обсягів інформації, попередній аналіз інтерв’ю, опитувань і звернень громад, а також підготовку аналітичних матеріалів та звітів.
Водночас навіть просте узагальнення великого документа передбачає низку рішень: яку інформацію відібрати, як її інтерпретувати та що вважати важливим. Саме тут виникають ризики втрати контексту, викривлення висновків або неврахування окремих груп населення.
У гуманітарній діяльності такі помилки можуть впливати на рішення щодо надання допомоги. Тому необхідно чітко розмежовувати завдання, які можуть виконувати ШІ-інструменти, та рішення, за які має відповідати людина.
ШІ може допомагати досліджувати швидше. Але перевірка доказів, інтерпретація висновків і відповідальність за рішення залишаються за людьми.
Шість рекомендацій для гуманітарних організацій
За підсумками виступу та обговорення виокремлюємо практичні принципи, які допоможуть організаціям використовувати ШІ відповідально.
Використовуйте ШІ як підтримку, а не заміну дослідника
Доручайте попередню обробку, класифікацію та систематизацію інформації. Інтерпретацію результатів, оцінювання ризиків і рішення залишайте під контролем фахівців.
Перевіряйте джерела та результати
Переконуйтеся, що посилання існують і справді підтверджують твердження. Звіряйте узагальнення інтерв’ю та досліджень із першоджерелами, щоб не втратити важливий контекст.
Захищайте чутливі дані
Перш ніж завантажувати матеріали, з’ясуйте умови зберігання й використання даних сервісом. Особливої обережності потребує інформація про ВПО, постраждалих від насильства та отримувачів допомоги.
Не делегуйте критично важливі рішення
Автоматичне визначення отримувачів допомоги або ухвалення рішень про її надання чи відмову без належного людського контролю можуть створювати значні ризики для прав і безпеки людей.
Розробіть внутрішні правила використання ШІ
Визначте всередині організації:
- дозволені завдання та інструменти;
- дані, які не можна передавати зовнішнім сервісам;
- відповідальних за перевірку результатів;
- порядок документування застосування ШІ.
Інвестуйте в навчання команд
Важливо вміти не лише користуватися інструментами, а й точно формулювати завдання, надавати релевантний контекст, перевіряти висновки та усвідомлювати обмеження технології.
Інструменти та підходи
Які інструменти обирати?
Томас Бернс наголосив, що вибір залежить від конкретного дослідницького завдання, ресурсів організації та вимог до захисту даних.
Під час обговорення він зокрема звернув увагу на NotebookLM для роботи із завантаженими джерелами та визначеним інформаційним контекстом. Водночас жоден інструмент не гарантує достовірності результатів без людської перевірки.
Пам’ятка перед початком роботи
П’ять запитань до використання ШІ
1. Яке завдання потрібно виконати?
2. Які дані будуть використані та чи є вони чутливими?
3. Який інструмент обираємо і чому?
4. Які обмеження та запобіжники потрібні?
5. Хто і як перевірятиме результат?
Від використання інструментів — до відповідальної дослідницької практики
Впровадження штучного інтелекту потребує не лише технологічних рішень, а й перегляду організаційних підходів до досліджень, управління даними та відповідальності за результати.
ШІ відкриває нові можливості для гуманітарного сектору, однак його застосування має ґрунтуватися на принципах достовірності, прозорості, захисту даних і недопущення шкоди.
Гуманітарний дослідницький хаб Альянсу УКР ОГС продовжуватиме створювати простір для обміну досвідом, розвитку дослідницьких компетентностей та обговорення етичних і методологічних викликів.