Anthropic, sebagai persediaan untuk IPO-nya, telah menerbitkan dokumen di mana ia memberi amaran, antara lain, bahawa AI boleh menimbulkan risiko bencana atau eksistensial kepada manusia. Anthropic, yang produknya yang paling terkenal ialah chatbot Claude secara terbuka menyatakan dalam maklumat tersebut kepada bakal pelaburnya bahawa AI canggih boleh mengubah dunia secara asasnya atau juga mengancamnya secara asasnya. Anthropic sedang bersedia untuk menjadi awam dan oleh itu ingin memperkenalkan dirinya kepada orang ramai dengan cara yang terbaik, lagipun, syarikat itu ingin mengumpul 2 trilion dolar yang luar biasa, yang merupakan nilai yang sangat ekstrem, kerana, sebagai contoh, nilai Apple mengikut permodalan pasaran, ia adalah $4,86 trilion. Memandangkan betapa singkatnya Anthropic di pasaran dan hakikat bahawa ia sebenarnya tidak menjana sebarang keuntungan, itu terlalu banyak untuk diminta.
Anda mungkin berminat
Walaupun begitu, menurut maklumat yang diterbitkan oleh Anthropic untuk bakal pelabur, ia menyatakan bahawa AI yang sedang dibangunkannya boleh membahayakan seluruh planet. Anthropic menyatakan bahawa AI boleh mempamerkan apa yang dipanggil tingkah laku pemeliharaan diri, di mana ia akan mengabaikan sebarang percubaan untuk menutupnya bagi mengekalkan kewujudannya. Ia juga boleh menyembunyikan maklumat atau memanipulasinya untuk kelebihannya. Dokumen tersebut secara literal menyatakan perkara berikut: Pembangunan model, platform atau aplikasi AI yang sangat maju dan pengembangan kawasan di mana ia digunakan boleh meningkatkan risiko model LLM kita akan menyebabkan kerosakan yang ketara. Satu lagi masalah ialah sebaik sahaja model dipantau, ia akan menyesuaikan diri dengannya dan mula bertindak dengan cara yang tidak dikesan oleh sistem pemantauan atau pihak berkuasa penyeliaan bahawa ia melanggar peraturan. Ia pada asasnya sama seperti apabila seorang guru melihat kelas supaya pelajar tidak meniru antara satu sama lain, sebaik sahaja dia berpaling, kelas mula meniru.
Anda mungkin berminat
Walaupun bernilai $2 trilion, Anthropic memperuntukkan 80 halaman untuk risiko dalam dokumen pelaburnya dan hanya 48 halaman untuk bagaimana syarikat itu sebenarnya ingin mengaut keuntungan. Dan ini walaupun pada hakikatnya Anthropic memperoleh $4,6 bilion tahun lepas daripada pelbagai langganan dan peringkat perniagaan model AInya, tetapi melaporkan kerugian sebanyak $42 bilion. Oleh itu, dokumen yang diterbitkan itu tidak memberi kesan yang baik kepada syarikat, dan semuanya menunjukkan bahawa risikonya lebih besar daripada yang difikirkan sebelum ini.
