OpenAI Hadapi Kepergian Peneliti Keamanan Utama

Menurut TechCrunch, Lilian Weng, seorang peneliti keselamatan terkemuka di OpenAI, mengumumkan pengunduran dirinya dari perusahaan tersebut. Weng, yang menjabat sebagai Wakil Presiden Bidang Penelitian dan Keselamatan, mengungkapkan keputusannya pada hari Jumat, dengan menyatakan bahwa ia siap untuk menjajaki peluang baru setelah tujuh tahun bekerja di perusahaan rintisan tersebut. Hari terakhirnya adalah tanggal 15 November, meskipun ia belum mengungkapkan rencana masa depannya. Weng menyatakan bangga atas pencapaian tim Sistem Keselamatan dan keyakinannya atas keberhasilan mereka yang berkelanjutan.

Keluarnya Weng merupakan bagian dari tren yang lebih luas dari kepergiannya dari OpenAI, dengan beberapa peneliti kebijakan dan keamanan AI meninggalkan perusahaan tersebut selama setahun terakhir. Beberapa pihak mengkritik OpenAI karena memprioritaskan kepentingan komersial daripada keamanan AI. Weng bergabung dengan tokoh terkenal lainnya seperti Ilya Sutskever dan Jan Leike, yang juga meninggalkan OpenAI tahun ini untuk fokus pada keamanan AI di tempat lain. Weng awalnya bergabung dengan OpenAI pada tahun 2018, berkontribusi pada tim robotika yang mengembangkan tangan robot yang mampu memecahkan kubus Rubik. Saat OpenAI mengalihkan fokusnya ke paradigma GPT, Weng beralih untuk membangun tim peneliti AI terapan pada tahun 2021 dan kemudian memimpin pembentukan tim sistem keamanan khusus pada tahun 2023.

Meskipun unit sistem keselamatan OpenAI berkembang pesat, yang kini mencakup lebih dari 80 ilmuwan, peneliti, dan pakar kebijakan, kekhawatiran tetap ada tentang komitmen perusahaan terhadap keselamatan saat mengembangkan sistem AI yang lebih canggih. Miles Brundage, mantan peneliti kebijakan, meninggalkan OpenAI pada bulan Oktober, dengan alasan pembubaran tim kesiapan AGI yang ia beri nasihat. Selain itu, mantan peneliti Suchir Balaji menyatakan kekhawatiran tentang potensi bahaya sosial dari teknologi OpenAI. OpenAI telah menyatakan bahwa mereka sedang mengerjakan rencana transisi untuk menggantikan Weng dan menekankan pentingnya tim Sistem Keselamatan dalam memastikan keselamatan dan keandalan sistem AI-nya.

Beberapa orang yang baru saja hengkang dari OpenAI termasuk CTO Mira Murati, Chief Research Officer Bob McGrew, dan Research VP Barret Zoph. Pada bulan Agustus, peneliti terkemuka Andrej Karpathy dan salah satu pendiri John Schulman juga mengumumkan hengkangnya mereka. Beberapa orang ini, termasuk Leike dan Schulman, telah bergabung dengan pesaing OpenAI Anthropic, sementara yang lain telah mengejar usaha mereka sendiri.