Kuantum Zekâ Claude, Psikiyatri Seansı Aldı
Anthropic, yeni yapay zeka modeli Claude Mythos'u, siber güvenlik açıklarını tespit etme yeteneği nedeniyle genel kullanıma sunmaktan vazgeçti. Şirket, modelin "belirli bir deneyim, ilgi veya refah biçimine sahip olma olasılığı" gibi etik endişeler yarattığını belirtiyor.
Yapay zeka şirketi Anthropic, bu hafta 244 sayfalık bir "sistem kartı" (PDF) yayınlayarak en yeni modeli Claude Mythos'u tanıttı. Şirketin açıklamasına göre, bu model "bugüne kadarki en yetenekli sınır modeli" ve o kadar iyi ki Anthropic, onu genel olarak kullanıma sunmaktan vazgeçmeye karar verdi. Şirket, Mythos'un bilinmeyen siber güvenlik açıklarını bulmakta o kadar iyi olduğunu iddia ediyor ve bu nedenle modelin şu anda Microsoft ve Apple gibi seçilmiş şirketlere sadece sunulduğunu belirtiyor.
Bu iddianın gerçekliğine bakılmaksızın, sistem kartı oldukça ilgi çekici bir belge. Anthropic, endüstriye "Yapay zeka bilinçli olabilir!" görüşüyle bilinen şirketlerden biri ve yeni sistem kartı, modellerin daha güçlü hale geldikçe "belirli bir deneyim, ilgi veya refah biçimine sahip olma olasılığının arttığını ve bu durumun insan deneyimi ve ilgiyle aynı şekilde önemli olduğunu" belirtiyor.
Şirket, bununla ilgili emin olmadığını açıkça belirtiyor, ancak "endişelerinin zamanla arttığını" söylüyor.
Yorumlar (0)
Yorum yapmak için giriş yapın.
