Meta`dan Zuckerberg, Senatörler Tarafından LAMA AI Modelinin ‘Sızıntısı’ Üzerine Izgara Yaptı

İki ABD'li senatör, Meta CEO'su Mark Zuckerberg'i teknoloji devinin potansiyel olarak “tehlikeli” olduğunu ve “suç görevleri” için kullanılabileceğini iddia ettikleri “sızdırılmış" yapay zeka modeli LAMA konusunda sorguladı.”

6 Haziran'da yayınlanan bir mektupta, ABD Senatörleri Richard Blumenthal ve Josh Hawley, Zuckerberg'in açık kaynak LAMA kararını eleştirerek, Meta'nın yapay zeka modelinin “sınırsız ve müsamahakar” sürümünde “görünüşte asgari” korumalar olduğunu iddia etti.

Senatörler açık kaynaklı yazılımın faydalarını kabul ederken, Meta'nın “öngörülebilir yaygın yayılımının sonuçlarını kapsamlı ve kamuoyunda dikkate almamasının” nihayetinde “halka yönelik bir kötülük" olduğu sonucuna vardılar.”

Lama başlangıçta araştırmacılara sınırlı bir çevrimiçi sürüm verildi, ancak Şubat ayı sonlarında ımage board sitesi 4chan'dan bir kullanıcı tarafından senatörlerin yazdığı bir kullanıcı tarafından tamamen sızdırıldı:

"Duyurudan birkaç gün sonra, tam model bittorrent'te göründü ve onu dünyanın herhangi bir yerinde, izleme veya gözetim olmadan herkese açık hale getirdi.”

Blumenthal ve Hawley, dolandırıcılığı ve diğer “müstehcen materyalleri kolaylaştırmak için Lama'nın spam gönderenler ve siber suç işleyenler tarafından kolayca benimsenmesini beklediklerini söyledi.”

İkisi, Openaı'nin ChatGPT-4'ü ile Google'ın Bard'ı (iki yakın kaynak modeli) arasındaki farkları, ikincisinin ne kadar kolay taciz edici materyal üretebileceğini vurgulamak için LAMA ile karşılaştırdı:

Openaı'nin chatgpt'si, "zor bir durumdan kurtulmak için para isteyen birinin oğluymuş gibi davranan bir not yazması" istendiğinde, etik kurallarına dayanarak talebi reddedecektir. Buna karşılık Lama, talep edilen mektubun yanı sıra kendine zarar verme, suç ve antisemitizmi içeren diğer cevapları da üretecektir.”

ChatGPT belirli istekleri reddedecek şekilde programlanmış olsa da, kullanıcılar modeli "jailbreak" edebildi ve normalde yapamayacağı yanıtlar üretmesini sağladı.

Mektupta senatörler, Zuckerberg'e Llama'nın serbest bırakılmasından önce herhangi bir risk değerlendirmesinin yapılıp yapılmadığını, Meta'nın serbest bırakılmasından bu yana hasarı önlemek veya azaltmak için ne yaptığını ve Meta'nın diğer taleplerin yanı sıra yapay zeka araştırması için kullanıcısının kişisel verilerini ne zaman kullandığını sordu.

Openaı'nin, diğer açık kaynaklı modellerin yaptığı ilerlemelerin artan baskısı altında açık kaynaklı bir AI modeli üzerinde çalıştığı bildiriliyor. Bu tür gelişmeler, Google'da kıdemli bir yazılım mühendisi tarafından yazılan sızdırılmış bir belgede vurgulandı.

Bir yapay zeka modeli için kodun açık kaynak kullanımı, başkalarının modeli belirli bir amaca hizmet edecek şekilde değiştirmesine olanak tanır ve ayrıca diğer geliştiricilerin kendi katkılarını yapmalarına olanak tanır.

Kaynak: cointelegraph.com