ChatGPT의 위험성

 

ChatGPT를 한참 사용해봤다.

 

과제 해결에도 이용해보려했고,

정말 정말 토이 레벨 프로젝트에도 이용해보려 했다.

 

 

장점 하나.

 

장점 1. 뭔가 스마트하게 해결하는 거 같아서 기분이 좋다. 특히 코워킹하는 느낌이 들어서 (아무래도 대답이 되게 그럴듯하게 나와서... 대화하는듯? 느낌이 온다) 해결 과정이 재밌긴 하다.

 

 

단점 세 개.

 

단점 1. 알맹이가 없다. 질문 프롬프트를 하나라도 잘못 구성하면 원하는 대답이 절대 안 나오고, 구멍이 하나씩 있다.

-> 실력이 있는 프로그래머라면 이정도 구멍 낸 상태까지로 대답 받은 뒤, 해결하는 방식으로 빠르게 해결할 수도 있다.

-> 또는 너무 크지 않은 단위로 간단하게만 질문하고 답변하는 용도 (말그대로 doc과 example만 확인하는 용도, search 대신)라면 괜찮을 수 있지만, 전체 해결 과정을 함께 해나가기엔 부족한 점이 많이 느껴진다.

 

단점 2. 대답이 너무 길어지거나, 과하게 복잡한 프로세스를 가지면 답변이 중단된다. 심한 경우 연결이 끊기기도 한다. 이런 경우 대부분 다시 프롬프트를 시작하는 편이 더 좋은 정답을 받는 데 도움이 된다.

 

단점 3. 데이터가 학습된 1~2년 전 데이터에 한정되어 있어, 최신 오픈소스나 도큐먼트에 대한 내용은 적용되어 있지 않다. 특히 python에서 import하는 module의 이름이 부정확한 등, 사소한 부분에서 에러가 많이 뜬다. 맹신하지 말자.

 

ex. <영어 형편없음 주의>

 

질문을 했고, 대답을 보면, base62 모듈을 임포트하는데, 사실 pip에는 이 모듈이 없다. pybase62다!

 

 

 

그리고 내가 느낀 가장 치명적인 부분은

 

사용하면 사용할수록 은은하게 의존도가 높아진다.

어? 이런거는 GPT로 물어보면 빠르지 않나? 해서 시작하면, 놓기가 쉽지 않다. 프롬프트를 조금만 조절하면 원하는 정답에 도달할 것 같은 갈증에.

 

사실 지금 하려는 flask 토이프로젝트는 혼자서 doc 보고 간단하게 하면 두시간이 채 걸리지 않을 프로젝트였다.

 

하지만 GPT에 절여져서, 오래 오래 돌아서 결국 혼자서 프로젝트를 하고 있다...

 

 

재미로만 느끼려한다.

정말 끊어야지