Halka arzına hazırlık yapan Anthropic, diğer şeylerin yanı sıra yapay zekanın insanlık için felaket veya varoluşsal bir risk oluşturabileceği konusunda uyarıda bulunduğu belgeler yayınladı. En bilinen ürünü ise... chatBot Claude, gelecekteki yatırımcılarına verdiği bilgilerde, gelişmiş yapay zekanın dünyayı temelden değiştirebileceğini veya temelden tehdit edebileceğini açıkça belirtti. Anthropic halka arz hazırlığı yapıyor ve bu nedenle kendisini kamuoyuna mümkün olan en iyi şekilde sunmak istiyor; sonuçta şirket inanılmaz bir rakam olan 2 trilyon dolar toplamayı hedefliyor ki bu gerçekten de çok yüksek bir değer, çünkü örneğin, Apple Piyasa değeri 4,86 trilyon dolar. Anthropic'in piyasada ne kadar düşük bir değere sahip olduğu ve aslında hiç kar etmediği göz önüne alındığında, bu çok yüksek bir rakam.
İlginizi çekebilir
Tüm bunlara rağmen, Anthropic'in potansiyel yatırımcılar için yayınladığı bilgilere göre, geliştirmekte olduğu yapay zekânın tüm gezegeni tehlikeye atabileceği belirtildi. Anthropic, yapay zekânın varlığını korumak için kapatılma girişimlerini görmezden geleceği, yani sözde kendini koruma davranışı sergileyebileceğini belirtti. Ayrıca bilgileri gizleyebilir veya kendi avantajına manipüle edebilir. Belgede şu ifadeler yer alıyor: "Son derece gelişmiş yapay zekâ modellerinin, platformlarının veya uygulamalarının geliştirilmesi ve bunların kullanıldığı alanların genişlemesi, LLM modellerimizin önemli hasara yol açma riskini artırabilir. Bir diğer sorun ise, modelin izlenmeye başlandığı anda buna uyum sağlayarak, izleme sistemi veya denetim makamlarının kuralları çiğnediğini tespit edemeyeceği şekilde davranmaya başlamasıdır. Bu, temelde bir öğretmenin öğrencilerin birbirini kopyalamaması için sınıfa bakmasıyla aynı şeydir; öğretmen arkasını döndüğü anda sınıf kopyalamaya başlar."
İlginizi çekebilir
2 trilyon dolarlık değerine rağmen, Anthropic yatırımcı belgesinde risklere 80 sayfa ayırırken, şirketin nasıl para kazanmayı planladığına sadece 48 sayfa ayırdı. Üstelik Anthropic geçen yıl yapay zeka modellerinin çeşitli aboneliklerinden ve kurumsal kademelerinden 4,6 milyar dolar gelir elde ederken, 42 milyar dolar zarar açıkladı. Dolayısıyla yayınlanan belge şirket için hiç de iyi bir izlenim bırakmıyor ve her şey riskin daha önce düşünülenden bile daha büyük olduğunu gösteriyor.
