• BIST 100

    10673,10%-5,38
  • DOLAR

    41,16% 0,11
  • EURO

    47,90% -0,49
  • GRAM ALTIN

    4609,98% 0,30
  • Ç. ALTIN

    7387,29% 0,87

Yapay zekayla ilgili distopik senaryolar gerçek olabilir mi?

Yapay zekanın hızlı gelişimi kontrol edilmezse gerçek bir tehdit oluşturabilir!

1137 OKUNMA
TARİH: 4.02.2025 01:16
Son Güncelleme: 4.02.2025 01:16

Yapay zekayla ilgili distopik senaryolar gerçek olabilir mi?

Yapay zekanın hızlı gelişimi kontrol edilmezse gerçek bir tehdit oluşturabilir!

TEKNOLOJİ 4.02.2025 01:16:00 1137
Haberi Sesli Oku
Yapay zekayla ilgili distopik senaryolar gerçek olabilir mi?

Yapay zekanın hızlı gelişimi kontrol edilmezse gerçek bir tehdit oluşturabilir!

Yapay zekanın insanlar üzerinde kontrol sağlaması veya zarar verme ihtimalinin tamamen dışlanamayacağını ifade eden Bilgisayar Mühendisliği Bölümü Başkanı Prof. Dr. Burhan Pektaş, “Bu tür distopik senaryoların tamamen imkansız olduğunu söylemek zor. Ancak, mevcut yapay zeka (YZ) sistemleri, önceden belirlenmiş hedeflere bağlı olarak çalışır ve kendi başına amaç oluşturamaz.” dedi.

Yapay zekanın hızla geliştiği günümüzde, bu teknolojinin potansiyel tehditlerini önlemek için küresel iş birliği ve etik standartların daha hızlı geliştirilmesi gerektiğini dile getiren Prof. Dr. Burhan Pektaş, “Büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.” dedi.

Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi (MDBF) Bilgisayar Mühendisliği Bölümü Başkanı Prof. Dr. Burhan Pektaş, yapay zekanın insanlığı yok etme olasılığı konusunu değerlendirdi.

Yapay Genel Zeka ve riskleri neler?
Yapay zekanın babası olarak tanınan Geoffrey Hinton’un, yapay zeka teknolojisinin gelecek 30 yılda insanlığı yok etme olasılığının arttığına ilişkin sözlerini değerlendiren Prof. Dr. Burhan Pektaş, “Geoffrey Hinton'un uyarısı, yapay zekanın (YZ) gelişimi sırasında kontrol mekanizmalarının yetersiz kalabileceği endişesini yansıtıyor. Bu görüş, özellikle ‘yapay genel zeka’ (AGI) olarak adlandırılan, insana benzer öğrenme ve karar verme kapasitesine sahip sistemlerin ortaya çıkma ihtimaliyle ilgilidir. Riskler şunlar; Otonom kontrol: YZ’nin kendi hedeflerini belirleyip bu hedeflere ulaşmak için insan çıkarlarını göz ardı etmesi. Silahlanma riski: Otonom silahların geliştirilmesi ve YZ’nin yanlış ellerde tehlikeli bir şekilde kullanılması. Bilgi manipülasyonu: Sahte bilgi üretimi, seçimler ve toplumsal karar alma süreçlerini manipüle edebilir. Ekonomik kontrol: Büyük şirketlerin YZ’yi tekelleştirmesi ve gelir eşitsizliğini artırması.” şeklinde konuştu.

Fiziksel, ekonomik, sosyal ve kültürel tehditler 
YZ’nin tehditlerinin sadece fiziksel yıkımla sınırlı olmadığını, aynı zamanda sosyal, ekonomik ve kültürel dönüşümleri de içerdiğini dile getiren Prof. Dr. Burhan Pektaş, şu tehditleri şöyle sıraladı:
“Fiziksel tehditler: Otonom silah sistemleri, güvenlik açıklarına sahip YZ uygulamaları.
Ekonomik tehditler: YZ’nin iş gücünü ikame etmesi sonucu geniş çaplı işsizlik.Sosyal tehditler: Dijital eşitsizlik, mahremiyetin yok edilmesi ve gözetim toplumlarının oluşumu.
Kültürel tehditler: İnsan değerlerinin ve özgün yaratıcılığın YZ sistemleriyle rekabetinde erozyon.”

Etik ve güvenlik standartları yeterli mi?
Yapay zeka teknolojilerinde etik kurallar ve güvenlik standartlarının geliştirilmesi konusuna ilişkin de Prof. Dr. Burhan Pektaş, şu bilgileri verdi: 
“Günümüzde bu alanda bazı ilerlemeler kaydedilse de (örneğin Avrupa Birliği'nin AI Act’i gibi), küresel düzeyde standartların geliştirilmesi halen yavaş ilerliyor. Bunun başlıca nedenleri: Uluslararası iş birliği eksikliği: Farklı ülkeler arasında çıkar çatışmaları. Teknolojik hız: YZ’nin gelişme hızı, düzenlemelerin uygulanma hızını aşıyor. Şirketlerin etkisi: Büyük teknoloji şirketlerinin lobicilik faaliyetleri.”
Büyük teknoloji şirketlerinin lobicilik faaliyetlerinin süreci yavaşlattığını dile getiren Prof. Dr. Burhan Pektaş, “Küresel bağlayıcılığı olan kurallar oluşturulmalı. Bağımsız denetleme kurumları kurulmalı. Eğitim programlarıyla etik farkındalık artırılmalı.” dedi.

Çözüm önerileri neler?
Yapay zekanın kontrol dışına çıkmasını önlemek için atılması gereken adımlara da işaret eden Prof. Dr. Burhan Pektaş, kontrol dışına çıkmayı önlemek için önerilerini şöyle sıraladı:
“Şeffaflık: Tüm YZ modellerinin nasıl çalıştığı kamuoyuna açık olmalı.
Güvenlik testleri: YZ sistemlerinin insan zararına yol açmayacağını garanti eden bağımsız testler yapılmalı.
Uluslararası iş birliği: Tüm ülkeler arasında bağlayıcı anlaşmalar sağlanmalı.
Etik denetim: YZ geliştiren şirketler düzenli etik denetimlerden geçirilmeli.
Kill switch mekanizmaları: YZ’nin istenmeyen bir duruma yol açması halinde durdurulmasını sağlayan teknik çözümler uygulanmalı.”

Distopik senaryolar gerçek olabilir mi?
Prof. Dr. Burhan Pektaş, yapay zekanın insanlar üzerinde kontrol sağlaması veya zarar verme ihtimalinin tamamen dışlanamayacağını ifade ederek, “Bu tür distopik senaryoların tamamen imkansız olduğunu söylemek zor. Ancak, mevcut YZ sistemleri, önceden belirlenmiş hedeflere bağlı olarak çalışır ve kendi başına amaç oluşturamaz. Buna rağmen; Riskli senaryolar: Otonom sistemlerin yanlış algoritmalarla çalışması veya kötü niyetli kişiler tarafından kötüye kullanılması tehlike oluşturabilir. Gerçeklik payı: Günümüzde bu risklerin büyük kısmı varsayımsal olsa da YZ’nin hızlı gelişimi kontrol edilmezse uzun vadede gerçek bir tehdit oluşturabilir.” şeklinde sözlerini tamamladı.

Türkiye’deki Yapay Zeka Girişimlerinin sayısı 8 yılda 17 katına çıktı

Yapay zekayla ilgili distopik senaryolar gerçek olabilir mi?

Tatlı Aldatmacalara Dikkat: Kaspersky, Dubai Çikolatası Dolandırıcılığı Konusunda Uyarıyor

TEKNOLOJİYİ TÜKETEN DEĞİL, ÜRETEN NESİLLER YETİŞİYOR

VODAFONE, TÜRKİYE’YE 5.5G’Yİ SUNMAYA HAZIR

Siber suçlular da tatil sever

Türkiye'den dünyaya: İşitsel algı sistemi yazılımı Neurosound

Çalan her telefona cevap vermeyin!

THOMSON, şimdi Türkiye'de!

Türkiye'de Artan Hukuki Çeviri İhtiyacına Çözüm: Yapay Zeka Çevirisi

Kendi şarj aletinizi ve powerbankınızı kullanın!

SANAYİ VE TEKNOLOJİ BAKANLIĞI DESTEĞİNDE ARÇELİK VE YONGATEK İŞ BİRLİĞİ İLE YERLİ ÇİP TASARIMI

Siber suçlular oyunseverlerin peşinde

Dünya çapında mavi ekran hatası neden oldu?

Alper Gezeravcı'nın getirdiği örnekler MESSAGE deneyinde heyecan verici sonuçlar sunuyor

Samsung Galaxy AI, sağlıklı yaşam için asistan olacak

HABERLER

Faber-Castell, okula dönüş döneminde her yaştan öğrencinin yol arkadaşı oluyor!

Sancaktepe’de 30 Ağustos Zafer Bayramı’nın 103. Yıl Dönümü Törenle Kutlandı

MHP Sancaktepe İlçe Başkanı Hakan Şahinoğlu’ndan 30 Ağustos Zafer Bayramı Mesajı

Sancaktepe İlçe Milli Eğitim Müdürü Sadık Aslan’dan 30 Ağustos Zafer Bayramı Mesajı

Sancaktepe Kaymakamı Naif Yavuz'un 30 Ağustos Zafer Bayramı Kutlama Mesajı

Yüzüncüyıl Gazeteciler Derneği Başkanı Yavuz Yılmaz’dan 30 Ağustos Zafer Bayramı Mesajı

TOKDEF Başkanı Fevzi Can’dan 30 Ağustos Zafer Bayramı Mesajı

CHP İstanbul İl Başkan Yardımcısı Ahmet Baylan’dan 30 Ağustos Zafer Bayramı Mesajı

ADD Sancaktepe Şube Başkanı Taner Beğenmiş’ten 30 Ağustos Mesajı

AK Parti Sancaktepe İlçe Başkanı Feyzullah Torlak’ın 30 Ağustos Zafer Bayramı Mesajı

CHP Sancaktepe İlçe Başkanı Emre Yılmaz’dan 30 Ağustos Zafer Bayramı Mesajı

Zafer Partisi Sancaktepe İlçe Başkanı Bilal Gökçeyurt’un 30 Ağustos Zafer Bayramı Mesajı

Yeniden Refah Partisi Sancaktepe İlçe Başkanı Ekrem Yahya Ateş’ten 30 Ağustos Zafer Bayramı Mesajı

İYİ Parti Sancaktepe İlçe Başkanı Burhan Caner’in 30 Ağustos Zafer Bayramı Mesajı

  • Çarşamba 28.9 ° / 22.2 ° Güneşli
  • Perşembe 29.1 ° / 22.4 ° Güneşli
  • Cuma 27.6 ° / 22.7 ° Güneşli
Faber-Castell, okula dönüş döneminde her yaştan öğrencinin yol arkadaşı oluyor!
Sancaktepe’de 30 Ağustos Zafer Bayramı’nın 103. Yıl Dönümü Törenle Kutlandı
MHP Sancaktepe İlçe Başkanı Hakan Şahinoğlu’ndan 30 Ağustos Zafer Bayramı Mesajı
Sancaktepe İlçe Milli Eğitim Müdürü Sadık Aslan’dan 30 Ağustos Zafer Bayramı Mesajı
Sancaktepe Kaymakamı Naif Yavuz'un 30 Ağustos Zafer Bayramı Kutlama Mesajı
Yüzüncüyıl Gazeteciler Derneği Başkanı Yavuz Yılmaz’dan 30 Ağustos Zafer Bayramı Mesajı