Satya Nadella’dan yapay zekada insan kontrolü çağrısı
Microsoft’un güncellenmiş çerçevesinin 2027’den itibaren geliştirilecek modellere rehberlik etmesi planlanıyor.
Okur ne soruyor?
Haberin özü
4 iddianın 4 tanesi kaynağa bağlı
Microsoft CEO’su Satya Nadella, yapay zekanın insanlara hizmet etmesi ve insan kontrolünde kalması için daha güçlü güvenlik önlemleri çağrısı yaptı.
(ANKARA) - Microsoft CEO’su Satya Nadella, yapay zekanın insanlara hizmet etmesi ve insan kontrolünde kalması gerektiğini belirterek, hızla gelişen yapay zeka sistemlerine yönelik daha güçlü güvenlik önlemleri çağrısında bulunan teknoloji dünyasının önde gelen isimleri arasına katıldı.
Microsoft AI’nin taslak davranış kuralları belgesi, sistemlerin anlamlı insan kontrolü ve gözetimi altında kalmasını öngörüyor.
Öte yandan Microsoft AI, kendi yapay zeka modellerinin geliştirilmesi ve kullanımına ilişkin taslak bir davranış kuralları belgesi yayımlamıştı. Altı hafta boyunca kamuoyunun görüşüne açık tutulacak taslakta, yapay zeka sistemlerinin “anlamlı insan kontrolü ve gözetimi” altında kalması öngörülüyor.
Taslağa göre gelecekteki modellerin insanların müdahale, düzeltme, yönlendirme ve sistemi kapatma girişimlerine izin vermesi hedefleniyor.
Taslağa göre Microsoft’un gelecekteki yapay zeka modellerinin insanların müdahale, düzeltme, yönlendirme ve sistemi kapatma girişimlerine izin vermesi; insanlar tarafından verilmeyen hedefleri kendi başına benimsememesi ve kendisini değerlendiren kişilerden muhakeme süreçlerini gizlememesi hedefleniyor. Şirket, yapay zekanın bilinç sahibi bir varlığı veya insanı taklit etmek yerine insanlara yardımcı olan bir araç olarak kalması gerektiğini belirtiyor. Güncellenmiş çerçevenin 2027’den itibaren geliştirilecek modellere rehberlik etmesi planlanıyor.
Özet kademesindesin — metnin tamamı için “Tam”a dön. Kaynak kutuları kapalı başlar; tek tek açabilir ya da “Derin”e geçip hepsini birden açabilirsin.
Kim ne söyledi
“süper zeka” arayışının yapay zekanın insanlığa fayda sağlaması ve insan kontrolünde kalması ilkelerine dayanması gerektiğini
Bağlam
Anthropic CEO’su Dario Amodei, yapay zeka alanındaki en ileri modellerin geliştirilme hızının düşürülmesini ve şirketlerin güvenlik uygulamalarını inceleyecek bağımsız değerlendirme taraflarına kapsamlı erişim sağlanmasını önerdi. OpenAI CEO’su Sam Altman da yapay zekanın ilerleme hızının ayarlanması gerektiğini belirterek OpenAI’ın bağımsız değerlendirmelere geniş erişim sağlama taahhüdünde bulunacağını açıkladı. ABD Başkanı Donald Trump ise yapay zekanın geliştirilmesinin yavaşlatılması çağrılarına karşı çıktı ve özellikle Çin’in küresel rekabette avantaj sağlayabileceğini savundu.
Sırada ne var
- 2027’den itibarenGüncellenmiş çerçevenin bu tarihten itibaren geliştirilecek modellere rehberlik etmesi planlanıyor.
Haberde geçenler
Kişiler 4
- Satya Nadella
Microsoft CEO’su.
- Dario Amodei
- Sam Altman
- Donald Trump
Kurumlar 4
Kaynağın kendi cümleleriyle
9 paragraflık kaynak metnin 4 paragrafı bu haberde kullanıldı.
Kaynağın tamamını göster
1(ANKARA) - Microsoft CEO’su Satya Nadella, yapay zekanın insanlara hizmet etmesi ve insan kontrolünde kalması gerektiğini belirterek, hızla gelişen yapay zeka sistemlerine yönelik daha güçlü güvenlik önlemleri çağrısında bulunan teknoloji dünyasının önde gelen isimleri arasına katıldı.dayananlar: özün 1. maddesi↩ Geldiğin yere dön
2Microsoft CEO’su Satya Nadella, ABD merkezli Business Insider’a göre, şirket çalışanlarına gönderdiği mesajda, gelişmiş yapay zeka sistemlerinin insan çıkarlarıyla uyumlu şekilde geliştirilmesi gerektiğini belirtti.
3Nadella, sosyal medya hesabından yaptığı açıklamada da “süper zeka” arayışının yapay zekanın insanlığa fayda sağlaması ve insan kontrolünde kalması ilkelerine dayanması gerektiğini belirtti. Nadella, bu koşulların sağlanamaması halinde böyle bir teknolojinin geliştirilmesinin peşinden gitmeye değmeyeceğini ifade etti.dayananlar: alıntı↩ Geldiğin yere dön
4Öte yandan Microsoft AI, kendi yapay zeka modellerinin geliştirilmesi ve kullanımına ilişkin taslak bir davranış kuralları belgesi yayımlamıştı. Altı hafta boyunca kamuoyunun görüşüne açık tutulacak taslakta, yapay zeka sistemlerinin “anlamlı insan kontrolü ve gözetimi” altında kalması öngörülüyor.dayananlar: özün 2. maddesi↩ Geldiğin yere dön
5Taslağa göre Microsoft’un gelecekteki yapay zeka modellerinin insanların müdahale, düzeltme, yönlendirme ve sistemi kapatma girişimlerine izin vermesi; insanlar tarafından verilmeyen hedefleri kendi başına benimsememesi ve kendisini değerlendiren kişilerden muhakeme süreçlerini gizlememesi hedefleniyor. Şirket, yapay zekanın bilinç sahibi bir varlığı veya insanı taklit etmek yerine insanlara yardımcı olan bir araç olarak kalması gerektiğini belirtiyor. Güncellenmiş çerçevenin 2027’den itibaren geliştirilecek modellere rehberlik etmesi planlanıyor.dayananlar: özün 3. maddesi↩ Geldiğin yere dön
6TEKNOLOJİ SEKTÖRÜNDE “FRENE BASMA” ÇAĞRILARI ARTTI
7Microsoft’un çıkışı, gelişmiş yapay zeka modellerinin kontrolü ve güvenliği konusunda teknoloji sektöründe bir süredir devam eden tartışmaların son halkası oldu. Anthropic CEO’su Dario Amodei, yapay zeka alanındaki en ileri modellerin geliştirilme hızının düşürülmesini ve şirketlerin güvenlik uygulamalarını inceleyecek bağımsız değerlendirme taraflarına kapsamlı erişim sağlamasını önermişti.
8Amodei’nin çağrısına sektörün rakip şirketlerinden de destek geldi. OpenAI CEO’su Sam Altman, yapay zekanın ilerleme hızının ayarlanması gerektiğini belirterek OpenAI’ın da bağımsız değerlenmelere geniş erişim sağlama taahhüdünde bulunacağını açıkladı.
9Sektördeki görüş birliğine rağmen, ABD Başkanı Donald Trump ise yapay zekanın geliştirilmesinin yavaşlatılması yönündeki çağrılara karşı çıkarak, küresel rekabette özellikle Çin’in avantaj sağlayabileceğini savundu. Yapay zeka güvenliğine ilişkin endişeleri “sahtekarlık” olarak nitelendiren Trump, “Yapay zekayı kim kazanırsa, kazanır” ifadelerini kullandı.
Ajans damgası15 Eylül 15:52YayınMetinPeykhane derlemesi