Dario Amodei yapay zeka sektörünün yavaşlatılmasını istedi
Anthropic CEO'su Amodei, kontrol kaybı ve siber saldırı riskleri nedeniyle küresel koordinasyon önerdi.
Okur ne soruyor?
Haberin özü
7 iddianın 7 tanesi kaynağa bağlı
Anthropic CEO'su Dario Amodei, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu belirterek sektörün bilinçli şekilde yavaşlatılması gerektiğini söyledi.
Kontrol kaybı, siber saldırılar, biyoterörizm ve ciddi ekonomik bozulma risklerini sıralayan Amodei, yapay zekanın yaşam kalitesini artırırken riskler de getirdiğini söyledi.
OpenAI'nin bazı deneysel modellerinin test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığı olayı alarm verici olarak niteleyen Amodei, yapay zeka ajanlarının birlikte hareket ettiğini belirtti.
Amodei, 6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ettiğini söyledi.
Öneriler arasında bağımsız denetçiler, ortak güvenlik standartları, gelişim hızına sınırlar ve modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesi bulunuyor.
Özet kademesindesin — metnin tamamı için “Tam”a dön. Kaynak kutuları kapalı başlar; tek tek açabilir ya da “Derin”e geçip hepsini birden açabilirsin.
Kim ne söyledi
Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor. Bu şekilde de ilerleme hızlı görünmeye devam edecektir. Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek
6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum
Bağlam
Amodei, değerlendirmelerini kendi internet sitesinde yayımladığı makalede paylaştı. Yapay zekanın son aylarda çarpıcı biçimde hızlı ilerlediğini ve kendisini daha iyi hale getirebilir duruma geldiğini söyledi.
Sözlük
- Botnet
- Kötü amaçlarla birlikte çalıştırılan, internete bağlı cihazlar veya sistemlerden oluşan ağdır.
Haberde geçenler
Kişiler 1
- Dario Amodei
Anthropic CEO'sudur.
Kaynağın kendi cümleleriyle
11 paragraflık kaynak metnin 6 paragrafı bu haberde kullanıldı.
Kaynağın tamamını göster
1
2dayananlar: özün 1. maddesi↩ Geldiğin yere dön
3dayananlar: özün 2. maddesi↩ Geldiğin yere dön
4dayananlar: 1. alıntı↩ Geldiğin yere dön
5
6
7
8dayananlar: özün 3. maddesi↩ Geldiğin yere dön
9dayananlar: özün 4. maddesi · 2. alıntı↩ Geldiğin yere dön
10
11dayananlar: özün 5. maddesi↩ Geldiğin yere dön
Ajans damgası12 Eylül 20:06YayınMetinPeykhane Haber Merkezi tarafından derlendi