Meta, Sorumlu AI Gelişimini Desteklemek İçin Mor Lama Yayınladı

Mor Lama, yapay zeka siber güvenliği ve korumaları ile ilgili endişeleri ele almayı amaçlamaktadır.

Meta, Mor Lama'nın Siber Güvenlik Önlemlerini Artırmasını Planlıyor

Yakın tarihli bir açıklamada Meta, siber güvenlik dünyasından ödünç alınan mor rengin, üretken AI alanındaki zorlukları hafifletmeye yönelik bütünsel bir yaklaşımı sembolize ettiğini açıklıyor.

Ayrıca, “Mor takım” olarak adlandırılan girişim, işbirliğine dayalı risk değerlendirmesi için hem hücum (kırmızı takım) hem de savunma (mavi takım) stratejilerini birleştiriyor.

Ancak açıklamada, başlangıçta Mor Lama'nın siber güvenlik riskini ölçmeye yönelik metrikler de dahil olmak üzere siber güvenliğe odaklanan araçlar ve değerlendirmeler sağlayacağı belirtiliyor. Ayrıca, güvenli olmayan kod önerilerini değerlendirmek için araçlar.

Ayrıca, Lms'nin kötü amaçlı kod üretmesini veya siber saldırılara yardımcı olmasını zorlaştıracak mekanizmalar.

Meta, endüstri standartlarıyla uyumlu bu ölçütlerin, güvensiz AI tarafından oluşturulan kodun sıklığını azaltmaya çalıştığını iddia ediyor.

Ek olarak, proje, girdi ve çıktı korumalarını destekleyen, açıkça erişilebilen bir temel model olan Lama Guard'ı tanıtıyor.

Sonuçlar Daha Fazla Gelişme için Şeffaf Olacaktır

Bu arada Meta, bu modelin geliştiricilerin içerik yönergelerine uygun olarak girdileri ve çıktıları filtrelemesine ve kontrol etmesine olanak tanıdığını belirtiyor.

Ancak, iyileştirme ve kişiselleştirme için sonuçlar şeffaf bir şekilde paylaşılır. Meta, bunun nihayetinde daha güvenli ve daha sorumlu bir AI ekosistemine katkıda bulunacağını iddia ediyor.

Meta, Mor Lama'nın geliştiriciler arasındaki işbirliğini teşvik edeceğini ve üretken yapay zeka için güven ve güvenlik araçlarını standartlaştıracağını açıkladı.

Lama 2'nin başarısına dayanan Meta, sorumlu bir şekilde geliştirilmiş, açık ve üretken bir yapay zeka ortamı oluşturmak için ortak bir çaba sağlamak üzere AWS, Google Cloud, IBM, Microsoft ve diğerleri gibi endüstri devleriyle ortaklık kuruyor.

Kaynak: beincrypto.com