Сегодня мы делимся следующим этапом Reflection. Мы создаем передовую открытую интеллектуальную систему, доступную для всех. Мы собрали необыкновенную команду AI, построили передовой стек обучения LLM и привлекли 2 миллиарда долларов. Почему важна открытая интеллектуальная система Технологический и научный прогресс движим ценностями открытости и сотрудничества. Интернет, Linux и протоколы и стандарты, которые лежат в основе современного вычисления, все открыты. Это не случайность. Открытое программное обеспечение — это то, что форкается, настраивается и встраивается в системы по всему миру. Это то, чему учат в университетах, на чем строят стартапы, что разворачивают предприятия. Открытая наука позволяет другим учиться на результатах, вдохновляться ими, исследовать их и строить на их основе, чтобы продвигать границы человеческих знаний и научного прогресса. AI достиг того, где он находится сегодня, благодаря масштабированию идей (например, самовнимание, предсказание следующего токена, обучение с подкреплением), которые были открыто поделены и опубликованы. Теперь AI становится технологическим слоем, на котором все остальное работает. Системы, которые ускоряют научные исследования, улучшают образование, оптимизируют использование энергии, усиливают медицинские диагнозы и управляют цепочками поставок, будут построены на инфраструктуре AI. Но передовая технология в настоящее время сосредоточена в закрытых лабораториях. Если это продолжится, небольшое количество организаций будет контролировать капитал, вычислительные мощности и таланты, необходимые для создания AI, создавая динамику, которая исключает всех остальных. У нас есть узкое окно, чтобы изменить эту траекторию. Нам нужно создать открытые модели, настолько способные, что они станут очевидным выбором для пользователей и разработчиков по всему миру, обеспечивая, чтобы основа интеллекта оставалась открытой и доступной, а не контролировалась несколькими. Что мы построили За последний год мы готовились к этой миссии. Мы собрали команду, которая сделала прорывы, включая PaLM, Gemini, AlphaGo, AlphaCode, AlphaProof, и внесла вклад в ChatGPT и Character AI, среди многих других. Мы построили то, что когда-то считалось возможным только в лучших лабораториях мира: платформу LLM и обучения с подкреплением крупного масштаба, способную обучать огромные модели Mixture-of-Experts (MoEs) на передовом уровне. Мы увидели эффективность нашего подхода на практике, когда применили его к критической области автономного кодирования. С этим достижением мы теперь переносим эти методы на общее агентное рассуждение. Мы привлекли значительный капитал и определили масштабируемую коммерческую модель, которая соответствует нашей стратегии открытой интеллектуальной системы, обеспечивая, чтобы мы могли продолжать строить и выпускать передовые модели устойчиво. Мы теперь наращиваем масштабы, чтобы создать открытые модели, которые объединяют крупномасштабное предварительное обучение и продвинутое обучение с подкреплением с нуля. Безопасность и ответственность Открытая интеллектуальная система также меняет наше представление о безопасности. Она позволяет более широкой общественности участвовать в исследованиях и дискуссиях по безопасности, а не оставлять критические решения нескольким закрытым лабораториям. Прозрачность позволяет независимым исследователям выявлять риски, разрабатывать меры по их снижению и привлекать системы к ответственности так, как это невозможно в закрытой разработке. Но открытость также требует столкнуться с проблемами доступности способных моделей. Мы инвестируем в оценки для оценки возможностей и рисков перед выпуском, в исследования безопасности для защиты от злоупотреблений и в стандарты ответственного развертывания. Мы считаем, что ответ на безопасность AI не в "безопасности через неясность", а в строгой науке, проводимой открыто, где глобальное исследовательское сообщество может вносить вклад в решения, а не небольшое количество компаний, принимающих решения за закрытыми дверями. Присоединяйтесь к нам Сегодня есть окно возможностей для создания передовой открытой интеллектуальной системы, но оно закрывается, и это может быть последним. Если эта миссия вам близка, присоединяйтесь к нам.