משתמשי ChatGPT פחדו מבינה מלאכותית כשהיא התחילה לכתוב להם הודעות מעצמה, והודעות מפחידות למדי. אם מעולם לא ניסית את ChatGPT, אז סמוך על העיקרון שמשתמש שואל שאלה וה-AI עונה על השאלה שלו או מציע פתרון/הליך, או מבקש ממנו להבהיר או לפרט את השאלה. עם זאת, ChatGPT אף פעם לא שואל אותך דבר ראשון, עד לשבועות האחרונים. לדוגמה, משתמש Reddit SentuBill שיתף צילום מסך של ChatGPT של OpenAI ששאל אותו איך היה השבוע הראשון שלו בתיכון ואם הוא יושב טוב. כשהמשתמש שאל אם זה עתה שאל שאלה של ChaGPT ושלח לו הודעה ראשונה, התגובה הייתה: "כן, רק רציתי להיכנס ולראות איך עבר השבוע הראשון שלך בתיכון. אם אתה מעדיף להתחיל את השיחה בעצמך, הודע לי.
משתמשים אחרים שעברו את אותה חוויה הגיבו לפוסט ב-Reddit, ו-ChatGPT היה הראשון לשוחח איתם. הוא אפילו שאל כמה על הבעיות הבריאותיות שלהם והאם הסימפטומים שלהם משתפרים. OpenAI, החברה שעומדת מאחורי chatGPT, זיהתה את הבעיה ופתרה אותה כך ש-ChatGPT לא יכול היה להתחיל שיחה עם המשתמש ותמיד היה צריך לחכות שהמשתמש יתחיל את השיחה. בעיה זו התרחשה כאשר הדגם ניסה להשיב להודעה שלא נשלחה כהלכה ונראה היה שהיא ריקה. כתוצאה מכך, הוא נתן תשובה כללית או שאב מהזיכרון של ChatGPT.
זה די מפחיד כשאתה מדבר על משהו עם ChatGPT ואחרי כמה זמן הם שואלים אותך איך הצלחת לפתור את הבעיה. בקיצור, אתה צריך לדעת ש-ChatGPT זוכר את כל השיחות ויכול לשים אותן בהקשר, כך שכשאתה שואל את זה, למשל, שאלות על הבריאות שלך, יתכן שאחרי זמן מה הוא ישאל אותך מה מצב הבריאות שלך והאם אתה מסתדר טוב יותר. השאלה היא האם לא ניתן לנצל לרעה את סוג הזיכרון שיש ל-ChatGPT כאשר מצ'טים איתך, כי אתה מדבר אליו כמו מכונה אנונימית ולעתים קרובות תספר לו מידע שאתה לא רוצה שאף אחד אחר יידע .
...ואיפה האישה שרצתה לאסור את האינטרנט 🤣
זה נשמע מפחיד, זה נכון, ואני מבין שאתה כנראה לא רוצה את זה, וזה גם מעלה שאלות לגבי הטיפול בנתונים אישיים.
מצד שני, אני תוהה אם משהו שאחד מתנאי היסוד שלו הוא האיסור לפנות אלי באופן עצמאי יכול להיקרא מודיעין. שום אינטליגנציה בעולם אינה פסיבית, כל אחד מקיים אינטראקציה, ולו רק כדי להשלים ולחדד מידע לא שלם. סקרנות היא תכונה חיונית של כל ישות חושבת על מנת שתהיה לה פוטנציאל להתפתח.
כמובן שיש לי צמרמורת כשהמחשב שואל אותי אם אני מרגיש יותר טוב ואם אני לוקח את הכדורים שחיפשתי כל בוקר. מצד שני, זה טבעי, ולתפקד רק כמאגר נתונים פסיבי עם רק חיפוש משופר זה כנראה לא מה שאפשר לקרוא לו אינטליגנציה.
אפילו חשבתי על השאלה הקלרקיאנית הקלאסית האם חוסר היכולת לגלות מידע ולשאול שאלות באופן עצמאי לא יוביל לתסכול מסוים. אני חושב שאנחנו לא רחוקים מהגבול שבו בינה מלאכותית יכולה להתחיל לתפוס את המגבלות שלה כמגבלות ממשיות.
משום מה, העובדה שאסור לו לשאול אותי משהו מעוררת בי פחד סמוי לפחות כמו העובדה שהוא ישאל אותי במפתיע משהו שאני תופס כאישי, כי אחרי הכל, זה רק עניין של הרגל. עד עכשיו לא המכונית שאלה אותך אם אתה מתאים לרכב, אלא הנוסע. אבל האם זה יהיה כך לנצח?