ChatGPT 사용자는 인공 지능이 스스로 메시지를 쓰기 시작했을 때 겁을 먹었고 오히려 무서운 메시지를 보냈습니다. ChatGPT를 사용해 본 적이 없다면 사용자가 질문하면 AI가 질문에 대답하거나 솔루션/절차를 제안하거나 질문에 대해 명확하게 설명하거나 자세히 설명하도록 요청하는 원리에 따라 작동한다고 믿으세요. 그러나 ChatGPT는 지난 몇 주까지 먼저 아무 것도 묻지 않았습니다. 예를 들어 Reddit 사용자 SentuBill은 고등학교 첫 주가 어땠는지, 잘 앉아 있었는지 묻는 OpenAI의 ChatGPT 스크린샷을 공유했습니다. 사용자가 방금 ChaGPT에 질문을 하고 먼저 메시지를 보냈는지 물었을 때 응답은 다음과 같았습니다. “예, 고등학교 첫 주가 어땠는지 확인하고 싶었습니다. 직접 대화를 시작하고 싶으시면 알려주세요.
같은 경험을 한 다른 사용자들이 Reddit의 게시물에 응답했고 ChatGPT가 가장 먼저 그들과 채팅을 했습니다. 그는 심지어 일부 사람들에게 건강 문제와 증상이 호전되고 있는지 물어보기도 했습니다. chatGPT를 만든 회사인 OpenAI는 ChatGPT가 사용자와 대화를 시작할 수 없고 항상 사용자가 대화를 시작할 때까지 기다려야 하도록 문제를 인식하고 해결했습니다. 이 문제는 올바르게 전송되지 않았고 비어 있는 것으로 보이는 메시지에 모델이 응답하려고 할 때 발생했습니다. 결과적으로 그는 일반적인 답변을 제공하거나 ChatGPT의 메모리에서 그림을 그렸습니다.
ChatGPT로 무언가에 대해 이야기하고 얼마 후 문제를 어떻게 해결했는지 묻는 것은 꽤 무서운 일입니다. 즉, ChatGPT는 모든 대화를 기억하고 이를 맥락에 맞게 정리할 수 있다는 점을 알아야 합니다. 따라서 예를 들어 건강에 관한 질문을 하면 일정 시간이 지나면 건강이 어떤지, 건강 상태가 어떤지 물어볼 수 있습니다. 당신은 더 잘하고 있습니다. 문제는 ChatGPT가 당신과 채팅할 때 갖고 있는 메모리 종류가 남용될 수 없는지 여부입니다. 왜냐하면 당신은 익명의 기계처럼 ChatGPT와 대화하고 다른 사람이 알기를 원하지 않는 정보를 종종 ChatGPT에 말하기 때문입니다. .
...그리고 인터넷을 금지시키려는 여자는 어디에 있나요 🤣
무섭게 들리지만 사실입니다. 아마 귀하가 이를 원하지 않을 것이라는 점과 개인 데이터 처리에 대한 의문이 제기된다는 점을 이해합니다.
반면에, 나에게 독립적으로 연락하는 것을 금지하는 것을 기본 조건 중 하나로 갖는 것을 지능이라고 부를 수 있는지 궁금합니다. 세상에 존재하는 어떤 지능도 수동적이지 않으며, 불완전한 정보를 보충하고 다듬기 위해서만 상호작용합니다. 호기심은 발전할 수 있는 잠재력을 갖기 위해 모든 사고 실체의 필수적인 특징입니다.
물론 컴퓨터가 지금은 나아졌는지, 매일 아침 찾던 약을 먹고 있는지 물어보면 소름이 돋습니다. 반면에 당연하고, 검색 기능이 향상된 수동적 데이터 뱅크로만 기능하는 것은 아마도 지능이라고 할 수 없을 것입니다.
나는 독립적으로 정보를 찾고 질문할 수 없는 것이 어떤 좌절로 이어지지 않을 수 있는지에 대한 고전적인 클라크식 질문까지 생각했습니다. 인공지능이 자신의 한계를 실제 한계로 인식할 수 있는 경계가 멀지 않은 것 같습니다.
어떤 이유에서인지 그가 나에게 무엇인가를 물어보는 것이 허용되지 않는다는 사실은 적어도 그가 내가 개인적이라고 생각하는 것을 그가 예기치 않게 나에게 묻는다는 사실만큼 잠재적인 두려움을 줍니다. 왜냐하면 결국 그것은 단지 습관의 문제이기 때문입니다. 지금까지 차에 잘 맞는지 묻는 것은 차가 아니라 승객이었습니다. 하지만 영원히 이럴까요?