Mektubun yazarları, gelişmiş yapay zekanın Dünya`daki yaşam tarihinde daha iyi ya da daha kötüsü için derin bir değişikliğe neden olabileceğini söylüyor.
2.600'den fazla teknoloji lideri ve araştırmacı, “toplum ve insanlık için derin risklerden" korkarak yapay zekanın (AI) daha da geliştirilmesi konusunda geçici bir duraklama çağrısında bulunan açık bir mektup imzaladı.”
Tesla CEO'su Elon Musk, Apple'ın kurucu ortağı Steve Wozniak ve bir dizi yapay Zeka CEO'su, CTO'su ve araştırmacısı, Amerika Birleşik Devletleri düşünce kuruluşu Future of Life Institute (FOLI) tarafından 22 Mart'ta yayınlanan mektubun imzacıları arasındaydı.
Enstitü, tüm yapay zeka şirketlerini en az altı ay boyunca GPT-4'ten daha güçlü yapay zeka sistemlerini eğitmeyi “derhal durdurmaya” çağırdı ve diğer şeylerin yanı sıra “insan-rekabetçi zekanın toplum ve insanlık için derin riskler oluşturabileceği” endişelerini paylaştı. şeyler.
"Gelişmiş Yapay Zeka, Dünyadaki yaşam tarihinde derin bir değişimi temsil edebilir ve orantılı özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, bu düzeyde planlama ve yönetim gerçekleşmiyor ”dedi.
GPT-4, openaı'nin 14 Mart'ta piyasaya sürülen yapay zeka destekli sohbet botunun en son yinelemesidir. Bugüne kadar, 90. yüzdelik dilim içindeki en titiz ABD lise ve hukuk sınavlarından bazılarını geçti. Chatgpt'nin orijinal versiyonundan 10 kat daha gelişmiş olduğu anlaşılmaktadır.
FOLİ, yapay zeka firmaları arasında daha güçlü yapay zeka geliştirmek için “kimsenin - yaratıcılarının bile - anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği” bir “kontrol dışı yarış" olduğunu iddia etti.
En büyük endişeler arasında, makinelerin potansiyel olarak “propaganda ve yalan” ile bilgi kanallarını su basıp basamayacağı ve makinelerin tüm istihdam fırsatlarını “otomatikleştirip otomatikleştirmeyeceği” vardı.
FOLİ bu endişeleri bir adım öteye taşıyarak, bu yapay zeka şirketlerinin girişimcilik çabalarının varoluşsal bir tehdide yol açabileceğini öne sürdü:
"Sonunda sayıca üstün, zekice, eskimiş ve yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskini almalı mıyız?”
Mektupta, ”Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir" dedi.
Enstitü ayrıca OpenAI kurucusu Sam Altman'ın yakın tarihli bir açıklamasıyla, gelecekteki AI sistemlerini eğitmeden önce bağımsız bir incelemenin gerekli olması gerektiği konusunda hemfikirdi.
Şubat ayında Altman. 24 blog yazısı, yapay genel zeka (AGI) ve yapay süper zeka (ASI) robotlarına hazırlık ihtiyacının altını çizdi.
Ancak, tüm AI uzmanları dilekçeyi imzalamak için acele etmedi. Singularitynet'in CEO'su Ben Goertzel, 29 Mart'ta Twitter'da yazarı Gary Marcus'a verdiği yanıtta şunları açıkladı: Rebooting.AI , bu dil öğrenme modelleri (LLM'LER), bugüne kadar çok az gelişme olan AGI'LER haline gelmeyecektir.
Bunun yerine, biyolojik silahlar ve nükleer silahlar gibi şeyler için araştırma ve geliştirmenin yavaşlatılması gerektiğini söyledi:
ChatGPT gibi dil öğrenme modellerine ek olarak, ikna edici görüntüler, ses ve video aldatmacaları oluşturmak için yapay zeka destekli derin sahte teknoloji kullanılmıştır. Teknoloji, belirli durumlarda telif hakkı yasalarını ihlal edip edemeyeceği konusunda bazı endişeler dile getirilerek yapay zeka tarafından oluşturulan sanat eserleri oluşturmak için de kullanılmıştır.
Galaxy Digital CEO'su Mike Novogratz geçtiğimiz günlerde yatırımcılara kriptoya verilen düzenleyici dikkat miktarı karşısında şok olduğunu söylerken, yapay zekaya yönelik çok az şey olduğunu söyledi.
"Yapay zekayı düşündüğümde, kripto düzenlemesi hakkında çok konuştuğumuz ve yapay zeka düzenlemesi hakkında hiçbir şey konuşmadığımız beni şok ediyor. Demek istediğim, hükümetin bunu tamamen altüst ettiğini düşünüyorum, "dedi 28 Mart'ta hissedarlar çağrısı sırasında.
FOİL, yapay zeka geliştirme duraklamasının hızlı bir şekilde yürürlüğe girmemesi durumunda hükümetlerin bir moratoryuma dahil olması gerektiğini savundu.
“Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yürürlüğe giremezse, hükümetler devreye girmeli ve bir moratoryum oluşturmalıdır ”diye yazdı.
Kaynak: cointelegraph.com