PROBACA.ID – OpenAI menghadapi tuntutan dari matematikawan untuk membuktikan bahwa karya atau percakapan mereka tidak digunakan dalam pengembangan model kecerdasan buatannya. Tuntutan itu disampaikan Andreas Thom setelah perusahaan mengumumkan sejumlah terobosan matematika dan memberikan penjelasan yang dinilai belum cukup transparan mengenai asal-usul data pelatihannya.
Dalam sejumlah unggahan di Mastodon, Thom mempertanyakan apakah interaksi dirinya dan koleganya dengan chatbot ChatGPT ikut berkontribusi pada keberhasilan OpenAI. Salah satu dari 10 hasil matematika yang diumumkan OpenAI dengan sorotan besar bulan lalu berkaitan dengan bidang keahlian Thom, yakni non-sofic groups.
OpenAI mengakui hasil tersebut banyak dibangun di atas penelitian sebelumnya oleh Thom dan matematikawan GΓ‘bor Kun. Secara umum, non-sofic groups merupakan struktur matematika tak hingga yang tidak dapat didekati menggunakan struktur berhingga.
Thom mengatakan ia mulai meninjau kembali interaksinya dengan OpenAI setelah Tristan Buckmaster, profesor matematika di New York University, secara terbuka mempertanyakan apakah model AI perusahaan tersebut memperoleh manfaat dari penggunaan OpenAI Codex olehnya.
Setelah pengumuman mengenai non-sofic groups, OpenAI mendapat kritik luas di kalangan matematikawan karena dianggap tidak mengakui kontribusi terbaru Thom dan Kun. Perusahaan kemudian diam-diam mengubah tulisan penjelasannya.
Thom juga mengaku terkesan dengan βpenguasaan terperinci OpenAI atas teknik kamiβ. Menurut dia, teknik-teknik tersebut bukan jalur penyelesaian yang paling jelas ataupun paling menjanjikan pada saat itu.
Ia mengatakan telah mengirimkan email kepada peneliti OpenAI SΓ©bastien Bubeck dan Mark Sellke, yang juga merupakan ahli statistik di Harvard. Thom meminta penjelasan apakah interaksinya dengan ChatGPT βmerupakan bagian dari data pelatihan atau dapat diakses oleh proses penalaranβ, sehingga mungkin berkontribusi terhadap hasil penelitian tersebut.
Namun, jawaban yang diterimanya tidak memuaskan. Menurut Thom, jawaban itu hanya membahas apakah percakapannya dengan chatbot dapat diakses secara langsung, bukan apakah percakapan tersebut telah masuk ke dalam kumpulan besar data pelatihan yang digunakan perusahaan untuk meningkatkan modelnya.
βTidak ada kualifikasi, penjelasan, atau bukti seperti itu yang diberikan,β tulis Thom. βSetidaknya, saya menganggap ini sebagai ketidakjujuran.β
Thom menilai para peneliti tidak memiliki perangkat yang memadai untuk merekayasa balik sistem pelatihan OpenAI guna mengetahui apakah karya mereka digunakan. βHanya OpenAI yang memiliki data yang relevan untuk itu.β
Jika OpenAI menyangkal penggunaan tersebut, Thom mengatakan tanggung jawab pembuktian berada pada perusahaan. Ia meminta OpenAI mengungkap seluruh kumpulan data yang diperlukan serta memperjelas berbagai pengaturan dan ketentuan mengenai cara perusahaan menggunakan data.
Sikap OpenAI yang belum secara meyakinkan menutup kemungkinan penggunaan data pengguna juga terlihat dalam pembelaannya atas terobosan matematika terkait salah satu persoalan Millennium Prize. Perusahaan menyampaikan hal serupa dalam komunikasi dengan Buckmaster, yang mengerjakan persoalan tersebut bersama peneliti Anthropic, Levent AlpΓΆge, dalam kapasitas pribadi.
Dalam tulisan blog yang mengumumkan solusi atas persoalan Navier-Stokes, yang berkaitan dengan pergerakan fluida, OpenAI menyatakan, βKami (para peneliti dan agen) tidak melihat karya mereka melalui cara apa pun sampai mereka merilisnya untuk publikβkhususnya, tidak ada data pengguna tertentu yang diakses untuk menyelesaikan masalah ini.β
Namun, perusahaan tidak secara pasti menutup kemungkinan adanya pengaruh tidak langsung. OpenAI menyatakan, βMeskipun kecil kemungkinannya, kami tidak dapat mengesampingkan bahwa data yang telah dihilangkan identitasnya dan berasal dari penggunaan produk kami membantu meningkatkan model kami.β
Thom menilai pembedaan tersebut sama dengan yang digunakan OpenAI dalam komunikasinya dengan dirinya. βPenghilangan identitas mungkin menghapus nama; hal itu tidak menghapus isi intelektual dari sebuah gagasan matematika,β ujarnya.
Dengan mempertimbangkan berbagai peristiwa terbaru, Thom menyebut jawaban tegas Sellke sebagai βsetidaknya terlalu luas dan secara material menyesatkan tanpa dasar yang dapat dibenarkan; jika dilihat kembali, jawaban itu jelas tidak jujur.β
Thom juga mengatakan, βAkan tidak dapat dibenarkan secara etisβ apabila penelitian nonpublik yang diberikan pengguna membantu meningkatkan model, lalu model tersebut digunakan perusahaan untuk berlomba menerbitkan hasil lebih dahulu daripada pengguna yang sama, tanpa persetujuan, pengungkapan yang semestinya, atau pemberian kredit.
OpenAI belum segera menanggapi permintaan komentar dari The Verge.
Pernyataan Thom menambah kekhawatiran di kalangan matematikawan terhadap OpenAI, di tengah momen yang seharusnya menjadi pencapaian besar bagi perusahaan. Solusi yang diumumkan OpenAI untuk salah satu persoalan Millennium Prize dinilai sebagai prestasi luar biasa yang, jika terverifikasi, sulit disangkal oleh banyak pihak.
Namun, pencapaian tersebut dibayangi oleh keadaan tidak biasa yang menurut OpenAI mendorong perusahaan menggarap persoalan itu. OpenAI menyatakan mendengar rumor di internet bahwa peneliti lain telah mencapai kemajuan besar, lalu memutuskan untuk mencoba menyelesaikannya.
Perkembangan tersebut memicu perdebatan mengenai batas penggunaan data, transparansi proses pelatihan model, serta etika ketika sistem AI dikembangkan dari pengetahuan yang mungkin berasal dari pengguna atau peneliti lain.
***
DISCLAIMER: Sebagian proses pengolahan artikel ini dibantu oleh teknologi AI. Pembaca disarankan memverifikasi kembali data dan informasi melalui sumber resmi atau sumber primer
Diolah dari sumber Theverge
