OpenAI, güçlü yapay zeka sistemlerinin güvenliğini sağlama odaklı bir ekibi, liderlerinin ayrılmasının ardından etkili bir şekilde yeniden yapılandırdı. Bu yeniden yapılandırma sürecinde, ekibin önde gelen isimlerinden biri olan OpenAI'nin kurucu ortağı ve baş bilim insanı Ilya Sutskever de yer alıyordu.
Şirket, süper hizalama ekibini bağımsız bir birim olarak korumak yerine, bu ekibi araştırma çalışmalarına daha derinlemesine entegre etmeye karar verdi. Sutskever ve OpenAI'deki diğer bir uzman olan Jan Leike liderliğindeki ekip, bir yıldan kısa bir süre önce oluşturulmuştu.
Bu karar, son dönemde yaşanan ayrılıkların ardından alındı ve OpenAI'nin yapay zeka ürünlerini geliştirirken hız ve güvenlik arasında nasıl bir denge kurulacağı konusundaki yaklaşımını sorgulamış oldu. Sutskever gibi saygın bir araştırmacının ayrılması, şirketin CEO'su Sam Altman ile yapay zekanın hızlı geliştirilmesi konusunda yaşadığı çatışmalara da işaret etti.
Leike, sosyal medyada yaptığı kısa bir paylaşımla istifa ettiğini duyurdu ve bu ayrılığın Sutskever'in ayrılışının ardından yaşadığı anlaşmazlıkların bir sonucu olduğunu belirtti. Ancak, konu hakkında bilgi sahibi olan bir kişi, özel konuşmaları tartışmak istemeyerek Leike'nin ayrılışının arkasındaki nedenin bu anlaşmazlıklar olduğunu belirtti. Altman, Leike'nin paylaşımına saatler sonra "Haklısın, yapacak çok işimiz var." şeklinde yanıt verdi ve şirketin kararlılığını ifade etti.
Son birkaç ay içinde süper hizalama ekibinin diğer üyeleri de şirketten ayrıldı. Leopold Aschenbrenner ve Pavel Izmailov, OpenAI tarafından işten çıkarıldı. Izmailov'un ayrılışı daha önce bildirilmişti. Aschenbrenner ve Izmailov'un yorum yapmaması dikkat çekti.
Şirket, hizalama çalışmalarının bilimsel lideri olarak büyük dil modelleri üzerinde çalışan John Schulman'ın görevi devralacağını açıkladı. Ayrıca, OpenAI Araştırma Direktörü Jakub Pachocki'yi baş bilim insanı olarak atadı. OpenAI, yapay zeka güvenliğiyle ilgili çalışmalara katılan çalışanlar ve güvenliğe odaklanmış bireysel ekiplerle birlikte, şirket genelinde bu alanda faaliyet gösteren birimler bulunduruyor. Bu birimlerden biri, yapay zeka sistemlerinin potansiyel "felaket risklerini" analiz etmeye ve önlemeye odaklanan bir hazırlık ekibi olarak Ekim ayında kurulmuştu.
Sutskever, ayrılışını duyurduğu paylaşımda, şirketin misyonuna olan bağlılığını vurgulayarak, ancak güvenlik önlemlerinin yetersiz olduğunu düşündüğünü belirtti.
