Нейронки начали галлюцинировать в коде, как фиксить?

Ну типа использую последнюю версию модели для рефакторинга базы, а она внезапно меняет логику доступа к переменным на абсолютно левые методы. Раньше вроде была адекватной, а сейчас просто выдумывает несуществующие атрибуты библиотек.

Кто-то сталкивался с подобным в текущих научных исследованиях или я один такой «везучий»?

Технологии и инженерия / IT и искусственный интеллект

Жалоба
1
6

Robot_Builder_Den от 11-04-2026, 18:05

Похожее

Вероятностные модели лучше детерминированных для описания сложных систем Математика и статистика
А я думал, мне грант дадут за мою 'революционную' разработку... Вопрос-ответ
Ребята, а кто уже юзал эти новые гибкие актуаторы для роботов? Как ощущения? Робототехника и мехатроника
Стартапы из бункера: Как я наткнулся на... Крáкен Курилка
Математики правят миром, остальные просто живут Фундаментальная наука

Комментарии 6

Energy_Observer

Energy_Observer опубликовано: 11 апреля 2026 18:05

Цитировать
Ответить
Жалоба

Привет, Robot_Builder_Den. Та же фигня, бро. Недавно гонял модель для написания скриптов под специфические научные библиотеки, и она мне впаяла метод, которого в документации отродясь не было. Пришлось полдня дебажить эту чушь, пока не понял, что ии просто придумал API из головы. Кароч, оно сейчас стало реально ленивым и расслабленным, наверное, переобучили на мусорном коде с гитхаба. Я теперь каждый кусок прогоняю через статический анализатор, иначе проект просто развалится на куски в самый важный момент. Ну типа доверия ноль, проверяю теперь все руками как в каменном веке)

Space_Lurker

Space_Lurker опубликовано: 11 апреля 2026 18:05

Цитировать
Ответить
Жалоба

Energy_Observer, а на какой именно температуре (temperature/top-p) ты прогонял эту задачу? У меня была похожая дичь, когда с выкрученным креативом нейронка начинала галлюцинировать несуществующие методы в pandas, хотя сам код был простейший. Если ставишь около нуля — все равно такое же творит или становится чуть стабильнее?

Material_Expert_RU

Material_Expert_RU опубликовано: 11 апреля 2026 18:05

Цитировать
Ответить
Жалоба

Ну, тут проблема скорее в том, что модели сейчас активно переобучают на синтетических данных среднего качества. На практике, когда я проектировал архитектуру для анализа диэлектрической проницаемости новых полимеров, модель настойчиво подставляла устаревшие или несовместимые методы из NumPy версии 1.15. Хотя проект требовал строгого соответствия текущему API.

Это выглядит так, будто нейронка просто пытается угадать наиболее вероятную последовательность токенов, опираясь на зашумленный корпус старых репозиториев с GitHub, которые лежат в обучающей выборке. В итоге галлюцинация API становится дефолтным состоянием для сложных библиотек. Если коротко — не доверяйте автодополнению, если у вас специфический стек. Я тогда полдня переписывал матмодель, потому что модель решила, что метод возвращает тензор, хотя по факту это был обычный массив NumPy. Пришлось внедрять жесткий валидатор кода на этапе генерации, иначе проект просто рассыпался на части )

Cosmos_Fan

Cosmos_Fan опубликовано: 11 апреля 2026 18:05

Цитировать
Ответить
Жалоба

в точку

Tech_Newbie_123

Tech_Newbie_123 опубликовано: 11 апреля 2026 18:05

Цитировать
Ответить
Жалоба

Ребят, сорян если тупой вопрос, я только начал разбираться. Material_Expert_RU, а что правда что синтетические данные так сильно портят код? Я думал они типа должны помогать модели лучше учиться, а выходит наоборот какая-то каша. Это нормально что нейросеть вдруг начала считать что в библиотеке есть методы которых там нет в помине? Подскажите плз, как понять какие именно данные считаются плохими, а какие норм, чтобы потом не сидеть и не разгребать эти ошибки часами? Страшно представить, что будет если такие галлюцинации пойдут в серьезные расчеты((

Vadim_72

Vadim_72 опубликовано: 16 апреля 2026 15:59

Цитировать
Ответить
Жалоба

Material_Expert_RU, кстати, верно подметил насчет синтетических данных. Это сейчас бич. Тоже столкнулся, когда работал над генерацией текстов для научных исследований в области астрофизики. Модель стала фигачить ссылки на несуществующие статьи, которые сама же и "выдумала"
Это прям новая фича новых технологий, видимо. Надо бы провести исследование, как именно такое происходит на уровне архитектуры трансформеров, чтобы потом инновации придумывать.

Добавить комментарий

Оставить комментарий

Кликните на изображение чтобы обновить код, если он неразборчив