Hôm nay chúng tôi chia sẻ giai đoạn tiếp theo của Reflection. Chúng tôi đang xây dựng trí tuệ mở tiên phong có thể tiếp cận cho tất cả mọi người. Chúng tôi đã tập hợp một đội ngũ AI xuất sắc, xây dựng một hệ thống đào tạo LLM tiên phong, và huy động được 2 tỷ đô la. Tại sao Trí Tuệ Mở Quan Trọng Tiến bộ công nghệ và khoa học được thúc đẩy bởi các giá trị của sự cởi mở và hợp tác. Internet, Linux, và các giao thức và tiêu chuẩn nền tảng cho máy tính hiện đại đều là mở. Đây không phải là một sự trùng hợp. Phần mềm mở là những gì được phân nhánh, tùy chỉnh và nhúng vào các hệ thống trên toàn thế giới. Đó là những gì các trường đại học dạy, những gì các công ty khởi nghiệp xây dựng, những gì các doanh nghiệp triển khai. Khoa học mở cho phép người khác học hỏi từ các kết quả, được truyền cảm hứng từ chúng, thẩm vấn chúng, và xây dựng dựa trên chúng để thúc đẩy ranh giới của tri thức nhân loại và sự tiến bộ khoa học. AI đã đạt được vị trí hiện tại thông qua việc mở rộng các ý tưởng (ví dụ: tự chú ý, dự đoán token tiếp theo, học tăng cường) được chia sẻ và công bố công khai. Bây giờ AI đang trở thành lớp công nghệ mà mọi thứ khác chạy trên đó. Các hệ thống tăng tốc nghiên cứu khoa học, nâng cao giáo dục, tối ưu hóa việc sử dụng năng lượng, tăng cường chẩn đoán y tế, và điều hành chuỗi cung ứng sẽ đều được xây dựng trên cơ sở hạ tầng AI. Nhưng ranh giới hiện tại đang tập trung trong các phòng thí nghiệm đóng. Nếu điều này tiếp tục, một số ít thực thể sẽ kiểm soát vốn, tính toán, và tài năng cần thiết để xây dựng AI, tạo ra một động lực không thể kiểm soát khiến mọi người khác bị loại trừ. Có một khoảng thời gian hẹp để thay đổi quỹ đạo này. Chúng tôi cần xây dựng các mô hình mở đủ khả năng để trở thành lựa chọn hiển nhiên cho người dùng và nhà phát triển trên toàn thế giới, đảm bảo rằng nền tảng của trí tuệ vẫn mở và có thể tiếp cận thay vì bị kiểm soát bởi một số ít. Những Gì Chúng Tôi Đã Xây Dựng Trong năm qua, chúng tôi đã chuẩn bị cho sứ mệnh này. Chúng tôi đã tập hợp một đội ngũ đã tiên phong trong các đột phá bao gồm PaLM, Gemini, AlphaGo, AlphaCode, AlphaProof, và đã đóng góp cho ChatGPT và Character AI, trong số nhiều người khác. Chúng tôi đã xây dựng một cái gì đó từng được cho là chỉ có thể thực hiện trong các phòng thí nghiệm hàng đầu thế giới: một nền tảng LLM quy mô lớn và học tăng cường có khả năng đào tạo các mô hình Mixture-of-Experts (MoEs) quy mô tiên phong. Chúng tôi đã thấy hiệu quả của phương pháp của mình khi áp dụng nó vào lĩnh vực quan trọng của lập trình tự động. Với cột mốc này được mở khóa, chúng tôi hiện đang đưa những phương pháp này vào lý luận tác nhân tổng quát. Chúng tôi đã huy động được vốn đáng kể và xác định một mô hình thương mại có thể mở rộng phù hợp với chiến lược trí tuệ mở của chúng tôi, đảm bảo rằng chúng tôi có thể tiếp tục xây dựng và phát hành các mô hình tiên phong một cách bền vững. Chúng tôi hiện đang mở rộng để xây dựng các mô hình mở kết hợp giữa đào tạo trước quy mô lớn và học tăng cường tiên tiến từ đầu. An Toàn và Trách Nhiệm Trí tuệ mở cũng thay đổi cách chúng tôi nghĩ về an toàn. Nó cho phép cộng đồng rộng lớn hơn tham gia vào nghiên cứu và thảo luận về an toàn, thay vì để lại các quyết định quan trọng cho một vài phòng thí nghiệm đóng. Sự minh bạch cho phép các nhà nghiên cứu độc lập xác định rủi ro, phát triển các biện pháp giảm thiểu, và giữ cho các hệ thống có trách nhiệm theo cách mà phát triển đóng không thể làm được. Nhưng sự cởi mở cũng yêu cầu phải đối mặt với những thách thức của các mô hình có khả năng được tiếp cận rộng rãi. Chúng tôi đang đầu tư vào các đánh giá để đánh giá khả năng và rủi ro trước khi phát hành, nghiên cứu an ninh để bảo vệ chống lại việc lạm dụng, và các tiêu chuẩn triển khai có trách nhiệm. Chúng tôi tin rằng câu trả lời cho an toàn AI không phải là "an ninh thông qua sự mờ ám" mà là khoa học nghiêm ngặt được thực hiện công khai, nơi cộng đồng nghiên cứu toàn cầu có thể đóng góp vào các giải pháp thay vì một số ít công ty đưa ra quyết định sau cánh cửa đóng kín. Tham Gia Cùng Chúng Tôi Có một khoảng thời gian cơ hội hôm nay để xây dựng trí tuệ mở tiên phong, nhưng nó đang khép lại và đây có thể là lần cuối. Nếu sứ mệnh này gây tiếng vang, hãy tham gia cùng chúng tôi.