지피지기 백전불태(知彼知己 百戰不殆) - '너를 알고 나를 알면 백번 싸워도 위태롭지 않다'는 말이죠. AI 대전환기를 맞아 'AI를 잘 쓰는 사람'으로 살아남고 싶나요? AI의 특징을 바로 이해하고 내가 활용할 수 있는 방법부터 알아야 합니다. [편집자주]

[디지털데일리 이건한 기자] 이전 편에서 챗GPT를 상대하는 대화전략 '프롬프트 엔지니어링'의 대원칙을 살펴보고 결과물을 확인해봤습니다. 하지만 원칙을 숙지해도 처음부터 완벽한 질문을 던지기란 쉽지 않습니다. 특히 사용자가 익숙하지 않은 분야에 대해서는 질문에 무엇을 더하고 빼야할지 모를 수 있죠.

자애로운 챗GPT - 반복 질문을 두려워 말라

이때는 조금 두루뭉실해도 좋으니 질문을 반복하며 조금씩 바꾸는 것이 중요합니다. 이때 '자애로운 챗GPT'를 기억하세요. 회사에서는 똑같은 질문을 세번만 해도 상사가 화를 내겠지만 저세상 인내심을 지닌 챗GPT에게 분노란 없습니다. 오히려 같은 질문에도 답변을 조금씩 다르게 보여주곤하죠. 이 과정에서 사용자는 답변들 가운데서 공통적으로 나타나는 중요한 요소가 무엇인지 찾아볼 수 있습니다. 또한 그것을 바탕으로 더 좋은 질문 키워드는 무엇인지 알게되기도 합니다. 마치 스무고개 놀이와 같죠.

반복질문을 이용한 간접적인 프롬프트 엔지니어링 예시를 위해 "초보자용 챗GPT 매뉴얼을 만들어줘"라는 딱딱한 질문을 반복해봤습니다. 이때 챗GPT는 모든 답변에서 '구체적이고 상세한 정보를 제시하라'는 내용을 담았는데요. 그 방법을 모른다면? 또 질문하세요. '그러면 구체적이고 상세한 질문을 하는 방법이 궁금해'라고 말입니다.

그러자 챗GPT는 구체적인 질문 방법에 대해 위 이미지처럼 다섯가지 팁을 소개했습니다. 여기엔 프롬프트 엔지니어링이란 말이 없지만 대부분의 답변이 '명확성', '구체성', '목적지향성'처럼 1편에 소개된 원칙과 유사한 내용을 다루고 있음을 알 수 있습니다. 이를 토대로 질문을 이어가다 보면 어느 시점에서 다시 프롬프트 엔지니어링이 언급될 가능성이 큽니다. 또한 첫 답변에 없었지만 프롬프트 엔지니어링 실전에서 중요하게 다뤄지는 '배경정보 제공하기' 같은 요소도 확인되는데요. 이는 챗GPT에겐 다양한 질문과 질문의 반복이 중요함을 다시 한번 알 수 있는 대목입니다.

질문을 반복하는 과정에서 중요한 건 '조정'입니다. 답변에 내가 찾는 정보가 없거나 구체적이지 않다면 그 부분만 콕 찝어 “위 답변에서 XX에 대한 구체적인 설명과 사례를 추가해줘”처럼 프롬프트 엔지니어링 원칙을 적용한 질문을 이어가야 원하는 정보를 더 쉽게 받아볼 수 있습니다. 예컨대 배경정보 제공하기라면 "2번 내용을 상세하게 설명해줘", "배경정보 제공하기에 대한 예시를 제시해줘"처럼 추가 질문을 이어갈 수 있습니다.

이때 챗GPT 이용 정책에 위반되는 질문에 대해서는 챗GPT가 답변을 거절할 수 있습니다. 폭력적이거나 차별적인 요소를 담은 내용을 요구하는 경우가 대표적이죠. 일각에선 이를 회피하는 프롬프트 엔지니어링이 연구되고 있기도 하지만 바람직해 보이진 않네요.

기억 용량의 한계 - 한 대화창에선 하나의 주제만

질문은 반복과 조정을 거치되 한 대화창에서는 가급적 하나의 주제만 다루세요. 챗GPT는 대화창 내 이전 답변과 사용자의 요구사항을 바탕으로 다음 질문의 의도를 분석하는 특징이 있기 때문입니다. 동시에 한번에 기억 가능한 데이터가 한정적이므로 일관성 없는 대화는 챗GPT를 혼란하게 합니다. 답변의 품질도 떨어뜨리게 되죠. 따라서 대화를 이어가다 다른 주제의 질문이 필요할 땐 새로운 대화창을 여는 것이 바람직합니다.

그럼 챗GPT의 기억력은 얼마나 될까요? 이 질문에 챗GPT는 "기억 용량의 한계는 대략 4096개 토큰"이라며 "한국어처럼 복잡한 언어는 문자 수로 환산하기 어렵지만 대략 몇백 문장 정도"라고 답했습니다. 다행히 생각보다 적지 않은 양이네요.

이런 특징들을 이해하면 챗GPT와는 한 대화창에서 가급적 양질의 질문과 답변을 주고받는 것이 좋다는 점도 알게됩니다. 불필요한 질문과 정보를 반복해 출력하다보면 챗GPT가 중요한 맥락을 놓칠 수도 있으니까요. 앞서 '질문을 반복해도 괜찮다'고 했는데요. 이는 중요한 질문을 추리고 필요한 키워드를 도출하기 위한 과정입니다. 질문과 키워드 정리가 끝나면 그것을 바탕으로 새 대화창을 열고 챗GPT와 효율적인 대화를 나눠보세요. 때때로 대화가 원치 않게 길어질 경우는 "~는 이후 대화에서도 중요한 키워드야"라고 일종의 중간저장을 해두는 것도 좋은 방법입니다.

이 외에도 프롬프트 엔지니어링에는 다양한 세부기법이 존재합니다. 우수한 AI를 더 효율적으로 활용하기 위한 대화법 연구가 세계적으로 활발히 이뤄지고 있는 결과물이죠. 그 노하우를 담은 책이 출판되거나 아예 '프롬프트 엔지니어'란 신직업도 등장했을 정도입니다. 또한 '뤼튼'같은 일부 생성형 AI 플랫폼들은 '프롬프트 허브'처럼 사용자 간 프롬프트 공유의 장을 만들어 운영하기도 합니다.

한편으론 사람처럼 대화할 수 있는 AI가 등장했는데 여전히 AI 눈높이 언어를 배워야 하는 점은 아쉽기도 합니다. 그러나 지금보다 똑똑한 AI가 나와도 그 AI를 더 효율적으로 쓰기 위한 연구는 지속될 겁니다. AI가 사람의 모든 지능을 완전히 뛰어넘는 '특이점'이 올 때까지는요. 적어도 그 시점까지는 '생성형 AI를 잘 쓰는 사람'이 곧 '프롬프트 엔지니어링을 잘하는 사람'이 될 가능성이 높아 보입니다.

이전 기사 ▶ 챗GPT에게 직접 듣는 '생성형 AI 찰떡 대화법' ① [AI 지피지기]

원본 및 더 많은 콘텐츠 보기 ▶ 구글에 'DD테크콘텐츠랩' 또는 '챗GPT 알짜 활용팁' 검색