В России нейросеть научили распознавать скрытый смысл в текстах
Нейросеть теперь может понимать намеки и скрытые смыслы: студентка Института прикладной математики и компьютерных наук Томского государственного университета Юлия Савенкова создала программу для автоматического анализа текстов по методу деконструкции французского философа Жака Деррида.
Цифровое решение было разработано на Python с помощью нейросети YandexGPT. Оно умеет выявлять противоречия и неочевидные смыслы, которые мог не заметить даже сам автор произведения.
Секрет в нейросетях
Свой метод деконструкции французский философ Жак Деррида предложил в 1967 году. Благодаря ему можно найти скрытые смыслы и противоречия в любом тексте, но ручной анализ этим методом занимает часы и требует множества усилий. Студентка Юлия Савенкова предложила удобное решение проблемы: автоматизировать деконструкцию с помощью больших языковых моделей – нейросетей, работающих с текстом. Метод Деррида разбивается на четыре последовательных шага: сначала выделяется главная мысль текста, в нем находят ключевые противопоставления, затем нужно перевернуть их и проверить, не упустил ли автор что-то важное.
Учится оценивать мир у философов
Для каждого шага автор цифрового решения написала специальные промпты (команды), которые получает нейросеть. Юлия Савенкова создала свою программу на Python и применила сервис YandexGPT. Этот инструмент загружает текст из файла (в форматах PDF и TXT), поочередно применяет промпты и выпускает готовый результат работы – новый взгляд на исходный материал с указанием скрытых противоречий. Научным руководителем проекта выступил доцент кафедры теоретических основ информатики ИПМКН ТГУ Михаил Пожидаев. Он отметил, что в основе работы студентки лежит творческая и своеобразная идея на стыке современных технологий и классических гуманитарных наук. Зачастую пользователи нейросетей сталкиваются с тем, что языковым моделям трудно что-либо объективно оценивать. Именно стык с философией решает эту проблему – нейросеть перенимает ту оценку, которую дают философы.
ИИ становится критиком
Благодаря инновационному решению появилась возможность «положить» технологическую основу на линейку философских знаний. Как пояснили эксперты, сейчас особенно важно уметь критически анализировать информацию и тексты, которые нейросеть предлагает пользователям. Провокационность метода Юлии Савенковой в том, что сам ИИ критически анализирует высказывания, созданные человеком. Это актуально: ведь не только автор может находиться во власти предрассудков, но и тот, кто критически анализирует тексты. Деконструктивистский анализ ИИ поможет найти большее число альтернативных точек зрения.
Программа не может заменить философа или филолога: ей сложно анализировать слишком короткие или, наоборот, слишком длинные тексты, поскольку ей либо не хватает контекста или же она начинает «выхватывать» фрагменты, не видя целого. В перспективе цифровое решение может быть оснащено веб-интерфейсом, чтобы пользователи могли загрузить текст и получить черновик анализа без необходимости запускать код. Более сложный путь развития – дообучение модели, когда авторы не меняют саму модель, а учатся лучше «разговаривать» с ней, чтобы создать «когнитивный экзоскелет» для работы с большими текстовыми массивами.
Вклад во взрывной рост цифровых гуманитарных наук
На сегодняшний день работа Юлии Савенковой – не готовый массовый коммерческий продукт, а исследовательский прототип. Однако это эффектный пример применения российского генеративного ИИ в гуманитарных науках, где нейросети зачастую используются для пересказа и редактирования. Эта разработка показывает возможность исследователей создавать на базе российских языковых моделей аналитические сервисы без обучения собственной модели с нуля. В перспективе этот инструмент сможет помогать студентам, преподавателям, исследователям, редакторам и журналистам анализировать объемные тексты, находить логические несоответствия и скрытые смыслы. В масштабах России проект может способствовать развитию цифровых гуманитарных наук – исследований на стыке компьютерных и гуманитарных наук и выходу российского программного обеспечения на новый уровень.
