Двадцять п’ять лауреатів медалі Філдса підписали відкритого листа із застереженням щодо гонки ШІ-лабораторій за математичними відкриттями. Вони побоюються проблем з авторством, перевіркою доведень і відкритістю наукових досліджень.
Наукові відкриття — не перегони
Автори листа занепокоєні конкуренцією ШІ-лабораторій у розв’язанні відомих математичних задач. На їхню думку, така гонка вже створює проблеми для наукової роботи.
Можливість ШІ розв’язувати складні математичні задачі сама собою може принести користь. Однак результат має бути зрозумілим для математичної спільноти та доступним для подальшого пояснення.
Для цього недостатньо просто оголосити про нове доведення. Математикам потрібен час, щоб перевірити його, описати нові методи та визначити зв’язок із попередніми роботами.
«Часто про ці рішення оголошують поспіхом, не залишаючи часу на належний опис, виокремлення нових методів та ідей і цитування відповідних попередніх робіт інших авторів», — написали автори відкритого листа.
Автори листа також порушили питання авторства та плагіату. Вони вважають участь математиків необхідною для розвитку нових ідей та їхнього включення до математичного знання.
Відкрита наука може поступитися секретності
Математики побоюються щодо використання їхньої роботи ШІ-компаніями. Зокрема, деякі дослідники ставлять питання про те, як могла використовуватися їхня взаємодія з Codex.
Професор NYU Трістан Бакмастер цього тижня звинуватив OpenAI у тиску через питання авторства математичного результату. Компанія нібито наполягала, щоб він не зазначав співавтора, який працює в Anthropic. Бакмастер також поставив питання, чи могла OpenAI використати їхню роботу з Codex для створення власного доведення.
У четвер OpenAI відкликала спонсорство математичного заходу в CalTech після критики з боку дослідників університету.
ШІ-лабораторії також можуть витрачати десятки мільйонів доларів на роботу великих мовних моделей, якщо бачать перспективний шлях до відкриття. За такої конкуренції дослідники можуть отримати стимул приховувати незавершену роботу, що може стати загрозою для культури відкритих досліджень.
Попередній досвід
Це не перша спроба математичної спільноти сформулювати правила роботи з ШІ. У червні робоча група математиків оприлюднила Leiden Declaration, присвячену впливу доведень великих мовних моделей на професію. Документ містить рекомендації для математиків, наукових установ і політиків.
Автори нового листа наголошують, що цінність математичної роботи не обмежується отриманням доведення або визначенням того, кому належить відкриття. Математична спільнота також навчає студентів, формулює нові питання, розвиває ідеї та інтегрує результати у ширший масив людських знань.
На думку підписантів, нинішня ситуація виходить за межі математики та стосується інших наукових і творчих професій. Вони вважають головним завданням зберегти розуміння того, заради чого виконується робота, навіть якщо ШІ змінює спосіб її виконання.
