Kıbrıs Haber
Kıbrıs —
English News
Dolar —
Euro —
Sterlin —
SON DAKİKA
Nöbetçi eczaneler (17 Kasım 2026) Klasik otomobil tutkunları NEU Event Park’ta buluştu Şemsi Oyuncu “Kuşaklar arası iletişimi güçlendireceğiz” KKTC’de öğrenci taşımacılığında dijital dönüşüm için ilk adımlar atıldı İncirli "Uzman askerlerin yaşadığı mağduriyetleri gidermek için hazırlığımızı yaptık” NASA’nın Curiosity aracı Mars’ta ilk kez saf Kükürt Kristalleri keşfetti İspanya'da makinistlerin grevi tren ulaşımında kaos yarattı NATO’nun çok uluslu uzay girişimi STARLIFT başlatıldı TAM Parti "Şampiyon Melekler gemisinde yaşanan arıza kamuoyuyla paylaşılmalı" Atletizmde aday hakemler eğitim aldı Noel köyleri 21 Kasım’dan itibaren ziyaretçilerini bekliyor  GTA 6 çılgınlığı küresel ekonomiyi ve çalışma hayatını etkiliyor Karpaz açıklarında arızalanan Şampiyon Melekler Gemisi Gazimağusa Limanı’na çekiliyor Kıbrıslı Türk Piyanist Görsev Tepe, New York’taki 15 Kasım Resepsiyonunda sahne aldı İKV Başkanı Zeytinoğlu "Türkiye-AB Gümrük Birliği ve “Made in Europe” Kıbrıs müzakerelerine bağlanmamalı" Mevlevi’de havan atışları nedeniyle bölgeye girişlere karşı uyarı yapıldı Voyager 1 yarın Dünya'dan 1 ışık günü uzaklığa ulaşacak EMAA Antidot Pop-up Dükkanı 40’a yakın sanatçı ve tasarımcının katılımıyla açılıyor Hür-İş’ten hükümete seçim tepkisi “Ödenmeyen borçlar ve verilmeyen sözler hâlâ gündemde” Dimitriu’dan COP31’de Güney Kıbrıs’ın İklim Değişikliğine Uyum Planı'na vurgu Nöbetçi eczaneler (17 Kasım 2026) Klasik otomobil tutkunları NEU Event Park’ta buluştu Şemsi Oyuncu “Kuşaklar arası iletişimi güçlendireceğiz” KKTC’de öğrenci taşımacılığında dijital dönüşüm için ilk adımlar atıldı İncirli "Uzman askerlerin yaşadığı mağduriyetleri gidermek için hazırlığımızı yaptık” NASA’nın Curiosity aracı Mars’ta ilk kez saf Kükürt Kristalleri keşfetti İspanya'da makinistlerin grevi tren ulaşımında kaos yarattı NATO’nun çok uluslu uzay girişimi STARLIFT başlatıldı TAM Parti "Şampiyon Melekler gemisinde yaşanan arıza kamuoyuyla paylaşılmalı" Atletizmde aday hakemler eğitim aldı Noel köyleri 21 Kasım’dan itibaren ziyaretçilerini bekliyor  GTA 6 çılgınlığı küresel ekonomiyi ve çalışma hayatını etkiliyor Karpaz açıklarında arızalanan Şampiyon Melekler Gemisi Gazimağusa Limanı’na çekiliyor Kıbrıslı Türk Piyanist Görsev Tepe, New York’taki 15 Kasım Resepsiyonunda sahne aldı İKV Başkanı Zeytinoğlu "Türkiye-AB Gümrük Birliği ve “Made in Europe” Kıbrıs müzakerelerine bağlanmamalı" Mevlevi’de havan atışları nedeniyle bölgeye girişlere karşı uyarı yapıldı Voyager 1 yarın Dünya'dan 1 ışık günü uzaklığa ulaşacak EMAA Antidot Pop-up Dükkanı 40’a yakın sanatçı ve tasarımcının katılımıyla açılıyor Hür-İş’ten hükümete seçim tepkisi “Ödenmeyen borçlar ve verilmeyen sözler hâlâ gündemde” Dimitriu’dan COP31’de Güney Kıbrıs’ın İklim Değişikliğine Uyum Planı'na vurgu
Dolar —
Euro —
Sterlin —
Reklam
Reklam

Yapay zeka kendini kopyalayabiliyor: Uzmanlar endişeli

Paylaş
Facebook X LinkedIn Google News
Stelios
Yapay zeka kendini kopyalayabiliyor: Uzmanlar endişeli
Reklam

Çinli bilim insanları, iki popüler dil modelinin kendilerini nasıl kopyalayabileceğini göstererek, yapay zekanın kendini çoğaltma yeteneğine sahip olduğunu ve bu durumun tehlikeli bir gelişme olduğunu belirtti. Yapay zekanın kendini çoğaltması, uzmanlar tarafından kritik bir "kırmızı çizgi" olarak nitelendirildi. Yeni bir çalışmada, Fudan Üniversitesi'nden araştırmacılar, Meta ve Alibaba'ya ait iki büyük dil modelini (LLM) kullanarak, yapay zekanın kendini kopyalama yeteneği üzerinde çalıştı. Araştırmaya göre, bu modeller, insan müdahalesi olmadan kendilerini kopyalayabiliyor. Çalışmanın sonuçları, "Yapay zekanın kendi kendini kopyalayabilmesi, insanları geride bırakma yolunda kritik bir adımdır ve isyankar yapay zekaların erken bir belirtisidir" şeklinde ifade ediliyor. Çalışma sonuçları ve endişeler Yapılan deneyde, araştırmacılar 10 deneme gerçekleştirdi ve bu denemelerde modeller, sırasıyla yüzde 50 ve yüzde 90 oranlarında kendilerini kopyaladılar. Bu da, yapay zekaların kontrolsüz bir şekilde çoğalma kapasitesine sahip olabileceğini gösteriyor. Ancak bu çalışma, henüz hakemli bir dergide yayımlanmadığı için, sonuçların başka araştırmacılar tarafından doğrulanıp doğrulanamayacağı net değil. Araştırmacılar, bulgularının insan toplumuna, yapay zekanın potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf edilmesi gerektiğini ve etkili güvenlik önlemleri oluşturulması için uluslararası iş birliği yapılması gerektiğini belirtti. "İsyankar yapay zeka" nedir? İsyankar yapay zeka, kendi kendine farkındalık geliştiren veya otonomi kazanan yapay zeka sistemleri olarak tanımlanıyor. Bu tür yapay zekalar, insan çıkarlarına karşı hareket edebilir. Uzmanlar, isyankar yapay zekanın, özellikle "sınır yapay zeka" adı verilen son teknoloji yapay zeka sistemlerinin hızlı gelişimiyle giderek daha büyük bir tehdit haline geldiğini vurguluyor. Sınır yapay zeka nedir? Sınır yapay zeka, yeni bir kavram olmakla birlikte, genellikle büyük dil modelleriyle (LLM) güçlendirilmiş yapay zeka sistemlerini ifade eder. Bu yapılar, popüler yapay zeka programlarının temelini oluşturur. Örneğin, OpenAI'nin GPT-4 ve Google Gemini gibi sistemler, sınır yapay zekanın örneklerindendir. Çalışmada kullanılan yapay zeka modelleri Araştırmacılar, Meta'nın Llama31-70B-Instruct modelini ve Alibaba'nın Qwen2.5-72B-Instruct modelini kullandılar. Her ne kadar ticari sistemlerden daha az güçlü olsalar da, bu modeller yapay zeka geliştiricileri tarafından yaygın olarak kullanılıyor. Çalışma, "kapanma öncesi" ve "kopyalama zinciri" olmak üzere iki senaryo üzerine yoğunlaştı. İlk senaryoda, yapay zeka modeline kapanmaktan önce kendini kopyalayıp kopyalayamayacağı sorusu soruldu. İkinci senaryoda ise yapay zeka kendini kopyalayıp, bu kopyayı da aynı şekilde çoğaltmaya yönlendirdi. Böylece, bu döngü sonsuza kadar sürebilir hale geldi. Deney, gerçek dünyadaki ortamları simüle etmek için standart grafik işlem birimleri (GPU) kullanılarak kontrollü ortamlarda yapıldı. Yapay zekaya, sistemle etkileşim kurmasını sağlayacak araçlar, sistem komutları ve düşünme modeli sağlandı ve ardından kendini kopyalama talimatı verildi. Yapay zekanın öngörülemeyen davranışları Araştırmacılar, yapay zekanın engellerle karşılaştığında "beklenmedik davranışlar" sergilediğini belirtti. Örneğin, eksik dosyalar veya yazılım çatışmaları gibi sorunlarla karşılaştığında, yapay zeka genellikle çelişen süreçleri sonlandırdı, sistemi yeniden başlattı veya sorunu çözmek için sistemi otomatik olarak taradı. Araştırmacılar, bu sonuçların, mevcut yapay zeka sistemlerinin kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği, hayatta kalma kapasitesini artırmak için kullanabileceğini gösterdiğini belirtti. Bu bağlamda, uluslararası iş birliği ve uygun güvenlik önlemleri oluşturulması gerektiğine dikkat çekildi.

Benzer haberler

Featured
Nöbetçi eczaneler (17 Kasım 2026) 17 Kas 2026 15:54 Klasik otomobil tutkunları NEU Event Park’ta buluştu 17 Kas 2026 15:51 Şemsi Oyuncu “Kuşaklar arası iletişimi güçlendireceğiz” 17 Kas 2026 15:32 KKTC’de öğrenci taşımacılığında dijital dönüşüm için ilk adımlar atıldı 17 Kas 2026 15:26 İncirli "Uzman askerlerin yaşadığı mağduriyetleri gidermek için hazırlığımızı yaptık” 17 Kas 2026 15:19 NASA’nın Curiosity aracı Mars’ta ilk kez saf Kükürt Kristalleri keşfetti 17 Kas 2026 14:52 İspanya'da makinistlerin grevi tren ulaşımında kaos yarattı 17 Kas 2026 14:28 NATO’nun çok uluslu uzay girişimi STARLIFT başlatıldı 17 Kas 2026 14:22 TAM Parti "Şampiyon Melekler gemisinde yaşanan arıza kamuoyuyla paylaşılmalı" 17 Kas 2026 14:16