한 문장만 추가하면 AI의 성능이 700% 이상 올라갑니다 - ko

우리 인간은 이런 걸 하려면은 막 뇌가 터질 거예요. AI는 이런 거

0.1초만에 할 수 있죠. 나는 달에서 스튜를 먹는 코끼리에 관한

문장을 만들되 모든 단어가 모음으로 시작해야 한다고 AI에게 요청했다.

AI는 코끼리가 외계 궤도에서 양파로 맛을 낸 속걸리를 먹는다. 그니까

영어로는 on elpant트 e on일

out orbit 다 모음으로만 시작한 문장을 만들어 낸 거예요.

인공지능은 여러분 그냥 떠먹여 주지 않아요. 여러분의 질문 영향에 따라서

그 퍼포먼스는 진짜 몇 백까지도 차익이 날 수가 있어요. 그래서

여러분들이 의학 같은 거 물어보는 거예요. 그때이 마법의 문장을

마지막에 붙이세요. 검색해 줘. 이걸 스캔처럼 쓰시면 돼요. 그래서

꿀팁보다 첫 번째는 제가 여러분 원래도 저희 더비에서도

인공지능 기술을 쓰고 있고 실제로 어세이에이션 룰이라고 저희는 예전부터

썼어요. 추천 알고리즘으로 인공지능을 예전부터 채택을 했습니다. 그래서

6천만 컨지능에 대해서 되게 적극적이었는데 저는이

듀얼 브레인을 읽고 진짜 아 반성을 너무 많이 했어요. 아, 내가

인공지능에 대해서 꽤 깨어 있다고 생각을 했는데 내가 생각보다 일상에서

어, 그다음에 내가 생각보다 인공지능을 되게 편형 관점으로

바라봤는데 제가이 듀얼 브레인을 읽고 정말 그거를 되게 깊게 반성했고

그러면서 이어진 액션 실천이 뭐냐면은 저는 업무 때문에 채치T를 진짜 매일

한 두 세 시간씩 쓰거든요. 못 해도 한 시간은 쓰는 거 같아요. 저는

그래서 그 200불짜리를 구독을 하고 있어요. 여러분들은 제가 볼 때 하실

필요가 없어요. 대부분은 무료로만 써도 충분합니다. 그러면서 다른

AI도 저는 유료로 하나 쓰고 있어요. 두 개나 쓰고 있어요.

그러면서 제가 찾은 꿀팁을 오늘 하나 알려 드릴 거예요. 이거는 진짜

아시면은 진짜 고맙습니다 말 나오실 거예요. 진짜 이거는 끝까지 들으셔서

꼭 챙겨 가세요. 아셨죠? 그러면은 뭐에 대한 꿀팁이냐, 여러분?

인공지능의 장점이자 단점이 뭐라 그랬죠? 할루시네이션이에요.

환각이에요. 환각. 오늘 그 환각에 대해서이 듀얼 브레인을 통해서 조금만

읽어 볼 거거든요. AI가 발전함에 따라 그 효율성과 속도에 의존하여

모든 것을 AI에 맡기고 싶어질 수 있다. 실제로 이렇게 됩니다. 그래서

이게 문제가 되고 있어요. 실제로. 하지만 AI에는 예상치 못한 약점이

있을지 모른다. 우선 AI는 실제로 아무것도 알지 못한다. 그저 연속적인

배열에서 다음 단어를 예측할 뿐이다. AI는 무엇이 진실이고 무엇이

거짓인지 구분할 수 없다. 이런 거를 여러분 이런 좋은 책을 읽으면서

정확하게 아셔야 돼요. 그니까 인공 지능하니까 우리의 빚대어서 생각하는

경우가 뭔데? 사람의 뇌에 빚대어서 그렇지 않습니다. 전혀 달라요. 전혀

달라요. AI가 사용자의 요청에 답하는 것은 여러 기능을 최적하는

과정이라고 생각하면 이해하기 쉬울 것이다. 그 중에서 가장 중요한

기능은 사용자가 좋아할 만한 답을 제시해를 만족시키는 것이다. 그리고이

목표는 종종 정확성을 유지하는 것보다는 더 중요하게 여겨진다.

뭐가? 정확한 정보를 우리한테 주는 거보다 우리를 만족시키는게 더

중요하다는 거예요. 그 이거는 되게 다른 관점이에요, 여러분. 그래서

AI가 잘 모르는 문제 답을 끈질기가 요구하면 없는 답을 만들어 내기도

한다. LM이 거짓 정보를 제공하거나 없는 이야기를 꾸며 낸다는 사실은

이미 널리 알려져 있다. LM은 텍스트를 예측하는 기계이기 때문에

그럴 듯하고 만족스럽지만 미묘하게 틀린 답을 내놓는데 아주 능숙하다.

이와 같은 AI 환각 할로시네이션이죠. AI 환각은 심각한

문제이며 현재 AI의 공합 접근 방식으로 완전히 해결할 수 있을지를

놓고 논쟁이 한창이다. 저는 해결 못 한다고 봅니다. 대규모로 개발된 최신

LM은 이전 모델에 비해 환각이 훨씬 덜하지만 근데 최근 업데이트 한번

심해졌다니깐요. 그래도 여전히 그럴듯한 거짓과 허위 인용문을 기꺼이

만들어 낸다. AI는 틀린 답을 정당하는데도 능숙해서 사용자가 오류를

발견하더라도 틀린 답변이 옳은 정보였다며 사용자를 설득할 수도

있다. 설득 당합니다. 뭔가 이렇게 그럴듯한 답변 우리한테 준다니깐요.

왜냐면 인터뷰 같은 거 찾아보면 되고 얼추 비슷하게 그냥 맞춰서 구성을

하면 되니까. 근데이 할로시네이션이 문제이기도 하지만 장점임이기도 하다고

제가 말씀드렸죠. 그걸 같이 공부해 봐야 되는데 어 환각 할로시네이션은

AI가 학습 데이터의 엄격한 맥락을 완전히 벗어나 새로운 연결을 찾을 수

있게 한다. 또한이는 AI가 명확히 훈련되지 않은 과제를 수행할 수 있는

이유이기도 하다. 나는 달에서 스튜를 먹는 코끼리에 관한 문장을 만들되

모든 단어가 모음으로 시작해야 한다고 AI에게 요청했다. AI는 코끼리가

외계 궤도에서 양파로 맛을 낸 속걸리를 먹는다. 그러니까 영어로는

on elephant e it on 어 on어 테일 on out orb

그러니까 다 모음으로만 시작한 문장을 만들어낸 거예요. 그러니까 우리

인간은 이런 걸 하려면은 막 뇌가 터질 거예요. AI는 이런 거

0.1초만에 할 수 있죠. 이게 환각의 장점이에요. 그니까 우리가

생각한 거에서 아주 쉽게 벗어날 수가 있어요. 어, 이것이 바로 AI

창의성의 역설이다. LM을 사실이 중요한 작업에서 신뢰할 수 없고

위험하게 만드는 바로 그 특성이 LM에게 창의성을 보여한다. 그렇다면

우리에게 필요한 것은 AI의 약점을 피하면서 강점을 활용하는 방법이다.

어,이를 위해 AI가 어떻게 창의적으로 사고하는지부터 살펴보자.

요런 건 다 직접 읽어 보셔야 되는데 영어로 채치T를 쓸 때보다 한글로

채치T를 쓰면 환각이 더 심합니다. 왜냐면은 뭐 채치T 개발자 보분들은

당연히 뭐 한글도 고려를 하시겠지만 뭐 안 중에도 없을 거예요. 사실상.

데 여러분 요것만 배워 가시면 되거든요. 그 애초에 가장 좋은

꿀팁은 그냥 채치피pt를 영어로 쓰시면은 퀄리티랑 퀀티가 합치면은

저는 두 배 정도 좋다고 생각해요. 영어로 쓰시면 애초에 두 배 더

좋습니다. 근데 영어로 이제 독해가 안 되시는 분들이 거의 대부분이니까

그다음에 뭐 일부분은 될지 언저 이렇게 많은 양의 정보가 나오고

새로운 분야를 접하면 이제 독해가 어렵잖아요. 그래서 여러분들이 뭘

이렇게 물어보는 거예요. 그니까 의학 같은 거 물어보는 거예요. 의학 지식

같은 것들. 그때이 마법의 문장을 마지막에 붙이세요. 영어 자료도

검색해 줘. 이걸 습관처럼 쓰시면 돼요. 영어로도 자료를 검색해 줘.

왜? 그렇게 하지 않고 여러분들이 한글로 질문을 하죠. 그럼 한글

데이터베이스를 찾기 시작해요. 우리나라 신문들 우리나라 블로그에서

자료를 찾아 갖고 조합해서 가지고 옵니다. 근데 똑같은 건데 영어로도

자료를 찾아보자 하죠. 그러면 영어를 자료를 찾은 다음에 그걸 번역해서

갖고 와요.이 차이는

진짜 심하면은 진짜 막 다섯 배까지도 날 거예요. 그니까 저도 영어로

읽는게 한글로 읽는 거보다 느리기 때문에 뭐 영어로 찾아볼 때가 한

3, 한글로 찾아볼 때가 7인데 급하면 한글로 찾아보거든요. 그다음에

특히 제가 잘 모르는 분야 이제 어이를 모르기 때문에 당연히 한글로

찾아봐야 되는데 그때 꼭 영어로도 찾아봐 줘. 이런 얘기를 붙입니다.

어 그러면서 지금 영상 찍으면서 그냥 브랜듯이 떠오르는 생각인데 만약에

그래도 안 나봤다. 뭐 독일 말로도 찾아볼 수 있어. 프랑스 말로도

찾아볼 수 있어. 요런 것도 해 보는 거예요. 그러니까 여러분 제가

말씀드렸잖아요. 채치T는 인공지능은 여러분 그냥

떠먹여 주지 않아요. 여러분의 질문 영향에 따라서 그 퍼포먼스는 진짜

몇백까지도 차이가 날 수가 있어요. 근데 어때요? 여러분 뇌에 여러분이

인풋으로 넣게 없으면은 아웃풋으로 나올게 없어요. 갈비지인 갈비지

아웃이라는 표현이 있거든요. 쓰레기 들어가면 쓰레기 나온다. 그럼 우린

지금 어떤 상황이요? Nothing in인 아웃이에요. 진짜 아무것도 안

들어갖고 아무것도 안 나와요. 질문을 할 수가 없어요. 그다음에 질문을

잘하려면 여러분 평소에 글을 많이 써 보셔야 돼요. 그러면은 되게 고품질에

질문을 할 수 있고 그거는 이제 인공지능 시대에 엄청난 영향이 될

거예요. 그래서 꿀팁 뭐다? 그냥 첫 번째는 영어로 할 수 있으만 한다.

이건 너무 근데 어려운 꿀팁이니까 정말 쉬운 꿀팁은 다른 언어로 그니까

대부분은 영어겠죠. 영어로 좀 찾아봐 줘. 아니면 스페인 자료도 찾아봐 줘

그러면은 아 일본 말로도 찾아봐도 좋겠네요. 일본은 자기들 말에 굉장히

고유한 데이터가 많기 때문에 어 저도 여러분들 덕분에 하나 오늘

알아가네요. 저는 1번 말로도 찾아봐자. 한 번도 안 써 봤거든.

이제 꼭 써 봐야겠네 이거. 아 너무 좋은 꿀팁인데. 여러분도 우리 같이

배우네요. 여러분 고맙습니다. 어, 저는 또 다음 에피소드에서 또

여러분들께 유용한 정보를 전달해 드리도록 하겠습니다. 습니다.

[음악]