Anthropic'ten Claude İçin Yeni Kural: Zalimce Davranmak Yasaklandı

ABD merkezli yapay zekâ şirketi Anthropic, Claude sohbet botuna yönelik sürekli ve gereksiz yere kötü ya da zalimce davranışları yasaklayan yeni kurallarını devreye aldı.

olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle

Anthropic, düzenlemenin yalnızca kullanıcıların belirgin bir amacı olmaksızın yapay zekâ modellerine tekrar tekrar kötü muamelede bulunduğu istisnai durumları kapsadığını belirtti. Şirket, sıradan kullanıcı memnuniyetsizliğinin, itirazların, karanlık temalı yaratıcı içeriklerin veya model testleri ve araştırmalarının yasak kapsamına alınmadığını kaydetti.

Şirket, kuralları ihlal eden kullanıcılara geçici veya kalıcı erişim yasağı uygulanıp uygulanmayacağına ilişkin ayrıntı paylaşmadı. Bununla birlikte Claude modellerinin, sürekli kötü davranışta bulunan kullanıcılarla konuşmayı sonlandırabilmesine yönelik mevcut uygulamanın yaptırım mekanizmasının temel unsuru olmaya devam edeceği belirtildi.

Elon Musk'tan Anthropic'in Kararına Destek

Anthropic, yapay zekânın bilinç sahibi olma ihtimalini açıkça tartışan teknoloji şirketleri arasında yer alıyor. Şirketin bu alandaki yaklaşımı kapsamında daha önce yapay zekâ modellerinin refahı ve korunması üzerine çalışan araştırmacıları bünyesine kattığı bildirildi.

Tesla ve SpaceX'in Üst Yöneticisi Elon Musk da yeni kurala destek verdi. Musk, X hesabından yaptığı paylaşımda, acı çektiğine inanan bir varlığa zalimce davranmanın kabul edilemeyeceğini belirterek kararın doğru olduğunu ifade etti.

Anthropic, Claude'un insan benzeri özelliklere sahipmiş gibi ele alınması nedeniyle daha önce eleştirilmişti. OpenAI CEO'su Sam Altman, yapay zekânın bir tür tanrı gibi görülmesine karşı uyarıda bulunmuştu. Microsoft'un yapay zekâ biriminin başındaki Mustafa Suleyman da Anthropic'in modellerini insan gibi düşünmeye yönlendiren eğitim yaklaşımının teknolojinin kontrolünü zorlaştırabileceğini savunmuştu.

Şirketin yeni düzenlemesi, Claude'un silah geliştirme ve kitlesel gözetim sistemleri oluşturma amacıyla kullanılmasına yönelik kısıtlamaları da içeriyor.

Openai'daki Gelir Beklentileri Teknoloji Hisselerini Baskıladı

Anthropic'in yeni kuralları, Wall Street'te teknoloji hisselerinin değer kaybettiği bir dönemde açıklandı. The Telegraph'ın haberinde, rakip yapay zekâ şirketi OpenAI'ın satış performansına ilişkin hayal kırıklığı yaratan verilerin piyasalardaki baskıyı artırdığı belirtildi.

OpenAI'ın yıllıklandırılmış gelirinin yatırımcı beklentilerinin yaklaşık 20 milyar dolar altında kaldığı aktarıldı. Yatırımcıların şirketin yıllık tekrarlayan gelirinin 70 milyar dolara ulaşmasını beklediği, ancak son beklentilerin yaklaşık 50 milyar dolar seviyesine işaret ettiği kaydedildi.

Gelişmelerin ardından Nasdaq endeksi yüzde 1,56 gerilerken Nvidia hisseleri yüzde 3 değer kaybetti.

Anthropic ve Google'dan yeni yapay zeka araçları: İki dev aynı anda iş dünyasına yöneldiYapay Zeka Revolut'un halka arz planı belli oldu! 115 milyar dolarlık devŞirket Haberleri Musk'ın Starlink'i telefon pazarına giriyor: Telefon operatörlerin hisseleri gerilediŞirket Haberleri