Искусственный интеллект стал доступен широкому кругу пользователей: многие сотрудники НКО используют его в своей повседневной работе, чтобы оптимизировать рутинные задачи. Но при этом правил, регламентирующих его использование, почти нет.
«У нас возникло ощущение, что используем искусственный интеллект мы активнее и больше, чем договариваемся о правилах его использования. ИИ пока остается в серой зоне», — говорит Дарья Буянова, руководитель программы Кухня НКО.
В том числе это касается подготовки и оценки грантовых заявок. Сейчас почти ни один грантодающий фонд не предложил политику по применению искусственного интеллекта в своих конкурсах. Это порождает риски для прозрачности и справедливости грантового процесса.
11 октября прошла открытая встреча-обсуждение результатов исследования про использование искусственного интеллекта в подготовке и оценке грантовых заявок. На ней участники с опытом социального проектирования обсуждали риски применения ИИ для заявителей и грантодателей, а также предлагали конкретные шаги по их минимизации.
Исследование готовила команда Кухни НКО в партнерстве с командой молодых исследователей Research Energy в рамках программы Research Got Talent. В исследовании приняли участие более 300 человек.
Результаты и выводы
Исследование показало: НКО думают, что только 2–3% заявителей используют ИИ в подготовке грантовых заявок. На самом деле 45% опрошенных обращались к искусственному интеллекту, а треть из них пробовали и включали сгенерированный результат в заявку.
При этом большинство заявителей используют ИИ не «в лоб». То есть используют его для описания проблемы, формулировки целей и задач, изложения качественных и количественных результатов. Сгенерированный контент заявители корректируют — из-за этого только 20% экспертов замечают использование ИИ в заявках.
58% из тех, кто пишет заявки, отмечают: искусственный интеллект нужно разрешить использовать в грантовых конкурсах. Но регламентировать и установить ограничения. Например, разрешить использовать ИИ только для сбора и обработки первичной информации, корректировки текста или подготовки определенных описательных частей.
«Полные запреты приводят к созданию обходных путей. Если ИИ неизбежен в грантовых конкурсах, лучше продумать правила, регулирующие его использование», — цитирует одного из респондентов Дарья Буянова.
Также больше половины респондентов считают, что в будущем заявители будут массово использовать искусственный интеллект в написании заявок. Как отмечают участники опроса, использование ИИ — это часть прогресса, который упрощает рутинные действия, его уже использует близкое окружение и другое.
А вот респонденты, которые не уверены в массовости ИИ, отмечают, что его использование зависит от регионального фактора и прогрессивности заявителей, а еще может привести к потере ценности заявки и индивидуальности в ней.
Риски использования ИИ в грантовых заявках
Если говорить про риски использования искусственного интеллекта, то можно выделить следующие:
- Риск деградации языковых моделей. Искусственный интеллект обучается на информации в интернете, которая находится открытом доступе. В том числе на тех данных, что вводит сам пользователь. Если дать задачу ИИ отредактировать текст, нейросеть начнет учиться на некорректном тексте — а это может повлиять на качество генерации не в лучшую сторону.
- Утечка персональных данных. Не стоит полностью загружать заявку в приложении ИИ. Так как программа может выдать другому пользователю ее содержание как индивидуально подготовленный текст.
- Несогласованность ресурсов, возможностей команды и содержания заявки. Если невнимательно проверить заявку, подготовленную ИИ, можно столкнуться с трудностями на этапе реализации. Например, окажется, что нужно воплотить в срок нереалистично масштабный проект, который придумал искусственный интеллект.
- Ограниченность в тематике и задачах. ИИ не совсем эффективен в формировании смысловой и идейной частей проекта. Особенно когда речь идет о профильных темах. Например, может быть предложена медицинская практика, польза которой не доказана и которая может навредить благополучателям.
- Потеря индивидуальности. Есть риск, что в заявке не будут отражены индивидуальные особенности команды или проекта. Это важно, поскольку эксперты грантовых конкурсов в том числе оценивают уникальность и новизну.
Как минимизировать риски?
Есть две сферы, в которых заявители могут развиваться, чтобы минимизировать риски от использования ИИ. Первое — это обучение применению нейросетей, machine learning. Второе — проведение качественного фактчекинга.
Анна Орлова, руководитель спецпроектов Кухни НКО, выделила три основных направления, о которых говорили участники. В них стоит двигаться совместно разным сторонам процесса.
Фото: freepik.com
«Важно в первую очередь наращивать понимание у заявителей и экспертов, что вообще такое искусственный интеллект. Во-вторых, есть запрос на то, чтобы сделать “малую песочницу” на базе одного из фондов, в одном из грантовых конкурсов устроить эксперимент по регуляции и использованию ИИ с обеих сторон, это откроет техническую часть, покажет больше реальных рисков. И последнее — регуляция необходима, но с фокусом на том, чтобы форма не поглотила содержание», — говорит Анна Орлова.
Сейчас — время, когда пора говорить об искусственном интеллекте во всех сферах. И в НКО-секторе тоже. У многих складывается понимание, что ИИ — это не просто очередной популярный формат, а полезный и практичный инструмент, и не учитывать практику его использования не получится.
