Карыстальнікі ChatGPT напалохаліся штучнага інтэлекту, калі ён сам пачаў пісаць ім паведамленні, прычым даволі страшныя. Калі вы ніколі не спрабавалі ChatGPT, то паверце, што ён працуе па прынцыпе, што карыстальнік задае пытанне, а штучны інтэлект адказвае на яго пытанне або прапануе рашэнне/працэдуру, або просіць іх растлумачыць або ўдакладніць пытанне. Аднак ніколі не здараецца, што ChatGPT першым спытае вас аб нечым, да апошніх некалькіх тыдняў. Напрыклад, карыстальнік Reddit SentuBill падзяліўся скрыншотам OpenAI's ChatGPT з пытаннем, як прайшоў яго першы тыдзень у сярэдняй школе і ці добра ён сядзеў. Калі карыстальнік спытаў, ці толькі што задаў ён пытанне ChaGPT і напісаў яму паведамленне, адказ быў: «Так, я проста хацеў зарэгістравацца і паглядзець, як прайшоў ваш першы тыдзень у сярэдняй школе. Калі вы хочаце пачаць размову самастойна, дайце мне ведаць.
Іншыя карыстальнікі, якія мелі такі ж досвед, адказалі на публікацыю на Reddit, і ChatGPT быў першым, хто з імі пагутарыў. Ён нават распытваў некаторых пра праблемы са здароўем і пра тое, ці паляпшаюцца іх сімптомы. OpenAI, кампанія, якая стаіць за chatGPT, распазнала праблему і вырашыла яе так, што ChatGPT не мог пачаць размову з карыстальнікам і заўсёды павінен быў чакаць, пакуль карыстальнік пачне размову. Гэтая праблема ўзнікала, калі мадэль спрабавала адказаць на паведамленне, якое было адпраўлена няправільна і выглядала пустым. У выніку ён альбо даў агульны адказ, альбо чэрпаў з памяці ChatGPT.
Гэта даволі страшна, калі вы размаўляеце пра нешта з ChatGPT, а праз некаторы час вас пытаюцца, як вам удалося вырашыць праблему. Карацей кажучы, вам трэба ведаць, што ChatGPT запамінае ўсе размовы і можа змясціць іх у кантэкст, таму, калі вы задаеце яму, напрыклад, пытанні пра сваё здароўе, магчыма, праз некаторы час ён спытае вас, як ваша здароўе і ці у вас усё лепш. Пытанне ў тым, ці нельга злоўжываць такой памяццю, якую ChatGPT мае пры размове з вамі, таму што вы размаўляеце з ёй як з ананімнай машынай і часта будзеце паведамляць ёй інфармацыю, якую вы не хочаце, каб хто-небудзь ведаў .
...а дзе жанчына, якая хацела забараніць інтэрнэт 🤣
Гэта гучыць страшна, гэта праўда, і я разумею, што вы, напэўна, гэтага не хочаце, і гэта таксама выклікае пытанні аб апрацоўцы персанальных даных.
Зь іншага боку, мне цікава, ці можна назваць інтэлектам тое, што мае адной з асноўных умоваў забарону кантактаваць са мной незалежна? Ні адзін інтэлект у свеце не з'яўляецца пасіўным, кожны з іх узаемадзейнічае, хаця б для таго, каб дапоўніць і ўдакладніць няпоўную інфармацыю. Цікаўнасць з'яўляецца фундаментальнай рысай любой думаючай сутнасці, каб мець патэнцыял для развіцця.
Канечне, я дрыжу па дрыжыках, калі кампутар пытаецца, ці лепш я сябе адчуваю і ці прымаю я таблеткі, якія шукаў кожную раніцу. З іншага боку, гэта натуральна, і функцыянаванне толькі як пасіўнага банка даных толькі з палепшаным пошукам, напэўна, не тое, што можна назваць інтэлектам.
Я нават падумаў пра класічнае кларкаўскае пытанне, ці не можа няздольнасць самастойна знаходзіць інфармацыю і задаваць пытанні не прыводзіць да пэўнага расчаравання. Я думаю, што мы недалёка ад мяжы, калі штучны інтэлект можа пачаць успрымаць свае абмежаванні як сапраўдныя абмежаванні.
Чамусьці той факт, што яму не дазволена нешта пытацца ў мяне, выклікае ў мяне прынамсі такі ж схаваны страх, як той факт, што ён нечакана спытае мяне пра нешта асабістае, бо ў рэшце рэшт, гэта проста справа звычкі. Дагэтуль не машына пыталася ў вас, ці добра вы ўпісаліся ў машыну, а пасажыр. Але ці будзе так вечна?