אנתרופיק, לקראת הנפקה ראשונה לציבור, פרסמה מסמכים בהם היא מזהירה, בין היתר, כי בינה מלאכותית עלולה להוות סיכון קטסטרופלי או קיומי לאנושות. אנתרופיק, שהמוצר הידוע ביותר שלה הוא chatבוט קלוד הצהירה בגלוי במידע למשקיעים העתידיים שלה שבינה מלאכותית מתקדמת יכולה לשנות את העולם באופן מהותי או גם לאיים עליו באופן מהותי. אנתרופיק מתכוננת להנפקה ולכן רוצה להציג את עצמה לציבור באור הטוב ביותר שאפשר, אחרי הכל, החברה רוצה לגייס סכום מדהים של 2 טריליון דולר, שזה ערך קיצוני באמת, אגב, כי, למשל, הערך של Apple לפי שווי שוק, מדובר ב-4,86 טריליון דולר. בהתחשב בכמה קצרה פעילותה של אנתרופיק בשוק ובעובדה שהיא לא באמת מרוויחה כסף, זה הרבה לבקש.
אתה יכול להתעניין
למרות כל זאת, על פי מידע שפרסמה אנתרופיק עבור משקיעים פוטנציאליים, היא טענה כי הבינה המלאכותית שהיא מפתחת עלולה לסכן את כדור הארץ כולו. אנתרופיק טענה כי בינה מלאכותית יכולה להפגין מה שנקרא התנהגות של שימור עצמי, שבה היא תתעלם מכל ניסיון לסגור אותה כדי לשמר את קיומה. היא יכולה גם להסתיר מידע או לתמרן אותו לטובתה. המסמך קובע פשוטו כמשמעו את הדברים הבאים: פיתוח מודלים, פלטפורמות או יישומים מתקדמים ביותר של בינה מלאכותית והרחבת התחומים בהם הם משמשים עלולים להגביר את הסיכון שמודלי ה-LLM שלנו יגרמו נזק משמעותי. בעיה נוספת היא שברגע שהמודל מנוטר, הוא יסתגל אליו ויתחיל להתנהג באופן שמערכת הניטור או רשויות הפיקוח לא יזהו שהוא מפר את הכללים. זה בעצם אותו הדבר כמו כאשר מורה מסתכלת על הכיתה כדי שהתלמידים לא יעתיקו זה את זה, ברגע שהיא מפנה את גבה, הכיתה מתחילה להעתיק.
אתה יכול להתעניין
למרות ששוויה 2 טריליון דולר, אנתרופיק הקדישה 80 עמודים לסיכונים במסמך המשקיעים שלה ורק 48 עמודים לאופן שבו החברה באמת רוצה להרוויח כסף. וזאת למרות העובדה שאנתרופיק הרוויחה 4,6 מיליארד דולר בשנה שעברה ממנויים שונים ורמות עסקיות של מודלי הבינה המלאכותית שלה, אך דיווחה על הפסד של 42 מיליארד דולר. לכן, המסמך שפורסם אינו משחק טוב עבור החברה, והכל מצביע על כך שהסיכון גדול אף יותר ממה שחשבו בעבר.
