Главный научный сотрудник OpenAI предлагает использовать perplexity как эталон для ограничения скорости развития ИИ

Image: MedChemBench: Benchmarking AI for medicinal chemistry — Cover · Source
Главный научный сотрудник OpenAI Якоб Пахоцки предлагает применять perplexity — показатель точности предсказаний ИИ — в качестве общего эталона для регулирования скорости развития искусственного интеллекта и установления пределов безопасности в отрасли.
Главный научный сотрудник OpenAI, Якоб Пахоцки, предложил новый подход к управлению стремительным развитием искусственного интеллекта, предложив принять общую метрику — perplexity — для измерения и потенциального ограничения скорости развития ИИ. В подробном сообщении в блоге от 22 ноября 2026 года Пахоцки аргументирует, что perplexity, оценивающая, насколько хорошо модель предсказывает следующий токен в данных, может служить стандартизированным показателем общей интеллектуальности ИИ у разных разработчиков. Это предложение возникло на фоне растущих опасений по поводу потенциальных катастрофических рисков, связанных с бесконтрольным прогрессом ИИ, которые высказывали бывшие инсайдеры отрасли и которые отражены в документах компаний, таких как проспект IPO Anthropic.
Perplexity количественно отражает предсказательную эффективность модели; более низкие значения perplexity означают лучшую точность предсказаний. Пахоцки отмечает эволюцию моделей OpenAI с постоянным снижением perplexity — начиная с GPT-3.5, через GPT-4 и далее — что коррелирует с появлением существенных трансформирующих способностей в таких областях, как кибербезопасность и математика. Например, perplexity GPT-4 около 0,91 совпало с появлением продуктивного цепочного мышления, важной способности к рассуждению, в то время как дальнейшее снижение ниже 0,8 сопровождалось прорывными возможностями. Эта взаимосвязь составляет основу предположения Пахоцки, что perplexity отражает основную «подоснову интеллекта» моделей ИИ и остаётся информативной даже при быстром устаревании специализированных тестов по задачам с развитием технологий.
Учитывая эти наблюдения, Пахоцки выступает за то, чтобы компании в сфере ИИ договорились о общих стандартах безопасности и приняли пороговые значения на основе perplexity — фактически ограничения скорости — в развитии ИИ. Такие ограничения сохранялись бы до тех пор, пока отрасль не достигнет конкретных этапов в понимании и контроле поведения ИИ, что решит существующие проблемы в области согласования и оценки. Такой подход направлен на предотвращение безрассудного прогресса, который мог бы опередить усилия по обеспечению безопасности.
Тем не менее, Пахоцки признаёт ограничения использования perplexity в качестве единственного показателя, включая различия в наборах данных между лабораториями, её косвенную связь с конкретными возможностями и неопределённость относительно теоретически минимально достижимого perplexity. Кроме того, улучшения вроде chain-of-thought prompting не снижают perplexity, но могут значительно улучшить производительность модели. Несмотря на эти оговорки, perplexity остаётся проверенной и измеримой мерой, тесно связанной с латентными способностями ИИ, что делает её перспективным кандидатом для поддержки прозрачности и совместного управления в области ИИ.
Это предложение соответствует более широкой дискуссии в отрасли о замедлении развития ИИ для снижения экзистенциальных рисков. В частности, генеральный директор Anthropic Дарио Амодеи публично призвал к постепенному развитию с общими стандартами безопасности, эту позицию, как сообщается, поддерживают генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX Илон Маск. Блог пост Пахоцки, охарактеризованный Альтманом как «самое важное, что OpenAI публиковала за последнее время», вносит конкретную научную основу в эту дискуссию.
Поскольку ИИ развивается стремительно, всё больше используя ИИ для собственной научно-исследовательской деятельности, установление объективных, общих эталонов, таких как perplexity, может быть ключевым для согласованных мер безопасности. OpenAI надеется, что эта инициатива приведёт к отраслевой прозрачности и нормам, которые смогут эффективно регулировать темпы развития ИИ и позволят выявлять и управлять возникающими рисками.


Источники и первоисточники
Read the original source ↗

Комментарии (0)
Комментариев пока нет. Начните обсуждение.
Написать комментарий
Комментарии публикуются после модерации. Ваше имя и комментарий будут видны всем. Аккаунт