บริษัท Anthropic ซึ่งกำลังเตรียมตัวสำหรับการเสนอขายหุ้น IPO ได้เผยแพร่เอกสารที่เตือนว่า ปัญญาประดิษฐ์ (AI) อาจก่อให้เกิดความเสี่ยงร้ายแรงหรือคุกคามการดำรงอยู่ของมนุษยชาติ ผลิตภัณฑ์ที่รู้จักกันดีที่สุดของ Anthropic คือ... chatบอท Claude กล่าวอย่างเปิดเผยในข้อมูลที่จะแจ้งให้ผู้ลงทุนในอนาคตทราบว่า AI ขั้นสูงสามารถเปลี่ยนแปลงโลกได้อย่างพื้นฐาน หรืออาจเป็นภัยคุกคามอย่างร้ายแรงต่อโลกได้เช่นกัน Anthropic กำลังเตรียมตัวที่จะเข้าจดทะเบียนในตลาดหลักทรัพย์ และต้องการที่จะนำเสนอตัวเองต่อสาธารณชนในแง่ดีที่สุดเท่าที่จะเป็นไปได้ เพราะบริษัทต้องการระดมทุนถึง 2 ล้านล้านดอลลาร์ ซึ่งเป็นจำนวนเงินที่สูงมากจริงๆ เพราะตัวอย่างเช่น มูลค่าของ... Apple ถ้าพิจารณาจากมูลค่าตลาดแล้ว บริษัทมีมูลค่า 4,86 ล้านล้านดอลลาร์สหรัฐฯ เมื่อพิจารณาว่า Anthropic อยู่ในตลาดมาไม่นานและบริษัทไม่ได้ทำกำไรเลย นั่นจึงเป็นเป้าหมายที่สูงมาก
คุณอาจจะสนใจ
ถึงกระนั้นก็ตาม ข้อมูลที่ Anthropic เผยแพร่ให้กับนักลงทุนที่มีศักยภาพระบุว่า AI ที่บริษัทกำลังพัฒนานั้นอาจเป็นอันตรายต่อโลกทั้งใบ Anthropic ระบุว่า AI สามารถแสดงพฤติกรรมที่เรียกว่าการรักษาตนเองได้ โดยจะเพิกเฉยต่อความพยายามใดๆ ในการปิดระบบเพื่อรักษาการดำรงอยู่ของตนเอง นอกจากนี้ยังสามารถซ่อนข้อมูลหรือบิดเบือนข้อมูลเพื่อประโยชน์ของตนเองได้ เอกสารดังกล่าวระบุไว้อย่างชัดเจนว่า: การพัฒนาโมเดล AI แพลตฟอร์ม หรือแอปพลิเคชันขั้นสูง และการขยายขอบเขตการใช้งาน อาจเพิ่มความเสี่ยงที่โมเดล LLM ของเราจะก่อให้เกิดความเสียหายอย่างมาก ปัญหาอีกประการหนึ่งคือ เมื่อใดก็ตามที่โมเดลถูกตรวจสอบ มันจะปรับตัวและเริ่มประพฤติตัวในลักษณะที่ระบบตรวจสอบหรือหน่วยงานกำกับดูแลตรวจไม่พบว่ามันกำลังละเมิดกฎ มันก็เหมือนกับเวลาที่ครูมองไปที่นักเรียนเพื่อไม่ให้พวกเขาคัดลอกกัน แต่ทันทีที่ครูหันหลัง นักเรียนก็เริ่มคัดลอกกัน
คุณอาจจะสนใจ
แม้ว่าจะมีมูลค่าถึง 2 ล้านล้านดอลลาร์ แต่บริษัท Anthropic กลับใช้พื้นที่ถึง 80 หน้าในการอธิบายความเสี่ยงในเอกสารสำหรับนักลงทุน และใช้เพียง 48 หน้าในการอธิบายว่าบริษัทต้องการสร้างรายได้อย่างไร และนี่เป็นเรื่องที่น่าประหลาดใจ เพราะปีที่แล้ว Anthropic มีรายได้ 4,6 พันล้านดอลลาร์จากค่าสมัครสมาชิกและระดับธุรกิจต่างๆ ของโมเดล AI แต่กลับรายงานผลขาดทุนถึง 42 พันล้านดอลลาร์ ดังนั้นเอกสารที่เผยแพร่ออกมาจึงไม่เป็นผลดีต่อบริษัท และทุกอย่างบ่งชี้ว่าความเสี่ยงนั้นสูงกว่าที่คิดไว้ก่อนหน้านี้
