AI라...

 3월 말경에 쓴 논문이 오늘 출판되어서, 지금까지 쓴 논문은 어찌저찌 다 출판까지 갔다. Proof reading 할 때에는 눈치 못 챘던 것을 출판된 것을 보고 발견한 것이 있는데, ADM이 죄다 ADH로 바뀌어져 있었다. 원고에는 제대로 ADM이라고 적혀 있는 것으로 보아서 이건 AI의 농간(...?) 일 확률이 상당히 높은 것 같다. 이러니 저러니 해도 AI가 이미 일상생활 혹은 눈에 잘 띄지 않지만 없으면 생존 문제가 될 사회 기반 관리 / 경제 / 안보에  깊이 녹아 있는 것은 분명한 것 같다. 생각해 보면 논문 심사할 때 내가 받았던 referee report에도 AI가 이미 개입해 있었을 확률이 높다. 논문 심사할 때 AI를 쓰는 것 자체에는 적어도 나는 심리적인 거부감이 없다. 논문 내용을 꽤나 잘 요약해 주는 면이 있어서, 읽었을 때 놓친 것이 없는지, 오해하고 있는 것은 없는지 확인하는 것에 쓴다면 오히려 review의 질이 올라갈 수 있기도 해서.. 문제는 AI가 내놓은 것을 그대로 검토조차 안 하고 내놓는 것일 것이다. 결국 쓰는 사람의 문제로 돌아가는 것 같다. 전에 한번 언급했던 적이 있는 것 같은데, AI가 지금 실용화 범위가 넓어지는 단계라서 여러 이야기가 나오는 것이겠지만, 지금 어린 세대들 입장에서는 AI가 처음부터 있는 존재인지라, 특별히 배워야 할 뭔가 혹은 거부/열광의 대상이 아닌, 일상생활의 일부로 여기게 될 확률이 높은 것 같다. 밥에 대해 특별한 느낌 없이 일상대로 먹는 것과 비슷한 느낌이지 않을까.. 

 연구 단계 혹은 그 전 관련 논문 파악 단계에서 AI를 쓰다 보면 이것도 쓰기 나름이라는 생각이 들긴 하는데, 제미나이 같은 경우는 구글에 로그인하고 쓸 때와 아닌 경우 뭔가 미묘한 차이가 있는 느낌도 들고.. 해서 어쩌면 내가 AI에 대해 느끼는 감정은 가장 똑똑한 AI를 다루고 있는 게 아니라 무료 버전을 쓰는 상황에서 느끼는 것일지도 모르겠다. 그런데 딱히 유료 버전을 쓰지 않아서 느끼는 불편함은 없고, 원래 꼭 필요하다고 느끼지 않는 일에 돈 쓰는 것을 별로 안 좋아해서 굳이 일부러 유료 AI를 쓰는 것이 내키지는 않는다. 여하간, 상황을 꽤 잘 파악해 주는 경우도 있고, 그걸 보다 보면 나름 도움이 되는 면도 있지만, 또 어떨 때는 존재하지도 않는 논문을 알려주거나, 자기가 앞질러 신나서 계산하는데 틀려 있거나, (앞질러 나가 뭔가 계산해 볼 생각(? 생각이라고 해야 하나?)을 한다는 사실 자체가 쎄 할 수도 있겠지만..) 지금 현재 상황에서는 알 수 없는 것이라고 하다가 내가 이런 답이 있지 않냐고 하면 칭찬해 주는 면도 있어서, 우수하지만 경험이 약간 부족한 대학원생이나 포닥과 이야기하는 느낌이 든다. 그리고 내 입장에서는 그것만으로도 연구하는데 나쁘지 않은 것 같다. 나라고 딱히 아주 우수한 사람은 아니라서... 어차피 논문 갯수가 중요한 입장이 아닌지라, 어떻게든 내가 잘 생각해 내고 이해하는데 도움이 된다면 OK. 그리고 어차피 이야기해 주는 내용을 그대로 쓰는 게 아니라 계산 다시 해 보거나 직접 찾아보는 식으로 검토하고, 또 그걸 가지고 나도 계산하고 생각을 하기 때문에 그럭저럭 내 머리를 채우는 데 괜찮게 쓰는 것 같다. 그냥 학생 때 도서관 들어가서 책 들춰보는 느낌 혹은 구글에 관심 있는 단어 집어넣고 검색 결과를 죽 훑어보면서 인지하지 못한 키워드나 논문을 발견하는 것에 가깝다고 해야 하나.. 생각해 보면 AI 뿐만 아니라 어떤 도구를 쓰더라도 그걸 가지고 자신의 뭔가를 만드는 것에 쓰는 사람과 반대로 단순히 인용만 하고 당장 쓸 곳에만 가져다 붙이지 제대로 자신을 위해 쓰지 않는 사람은 항상 존재해 왔다. 허위 정보의 존재 역시 마찬가지이고. 문제는 정보를 가지고 뭔가 목적을 이루고 싶어 하는 존재가 있을 수밖에 없다는 사실이 아닐까... 그 시대에 존재하는 쓸 수 있는 최선의 수단을 다 쓰다 보니 그 수단이 새로운 것이거나 뭔가 강한 인상을 주면 그쪽에 신경이 쓰이는 나머지 그 뒤에 있는 '있을 수밖에 없는 존재'를 잊는 게 아닌가 싶기도 하다. 생각해 보면 책이라고 모두 맞는 말만 하고 있는 것도 아니로, 좋은 책이라도 모든 것을 담고 있는 것도 아니기 때문에 결국 그걸 가지고 내가 어떤 생각을 하게 될지, 무엇을 할지가 중요한 것일 텐데.. 인터넷이 퍼지면서 각종 웹사이트에 검증하기 힘든 정보가 돌아다니는 것에 대한 우려가 많았고, 특히 정보에 대한 편집이 쉬워지면서 위키를 인용하는 것이 정말 좋은 것이냐는 문제가 이야기된 적이 있다. 어떻게 보면 특히 몇백년 전에는 책과 같은 인쇄물을 만들 권리가 누구에게나 있는 것은 아니었다는 점을 상기하면, 책이라는 단어를 인터넷이나 위키로 바꾸어도 왠지 어색하지 않아 보인다. 이제 책이나 위키가 AI로 바뀌어서 결국 같은 심리를 가지는 사람이 벌이는 비슷한 일에 대한 비슷한 이야기가 오가는 느낌이 든다.

 요새 arXiv에 올라오는 논문 abstract가 AI로 작성되었는지, 순수하게 사람이 작성한 것인지, 섞였는지를 판단해서 적어주는 웹사이트가 생겼는데, 그것도 나올 수밖에 없긴 하지만, 글쎄.. 별 유용한 것인지 그리고 얼마나 진실성을 담고 있는지는 잘 모르겠다. 예를 들어 내용을 AI가 죄다 작성해 준 것인지, 아니면 영어 표현이 생각나지 않아 AI의 도움을 받았을 뿐이지 생각은 내 생각인지 어떻게 구분할까? 그리고 그게 논문의 질과 강한 상관 관계가 있긴 한 건가? 그런 의문이 드는 것이다. 나도 논문 쓰다가 표현이 잘 생각나지 않으면 구글에 비슷한 표현을 검색하곤 하는데, AI가 하는 것이 좀 비슷한 게 아닌가 싶기도 하고.. 그리고 논문 쓰는 과정에서 갑자기 생각이 스쳐 지나가거나 우연히 본 책에서 힌트를 얻었다고 어떨 때 생각이 났거나 어떤 책에서 (특히 직접적인 관련이 별로 없는 경우: 하다 못해 소설책 읽다가 발상이 날 수도 있으니까.. 사실 내가 그런 적이 있다) 발상을 얻었는지 논문에 일일이 적지는 않는데, AI에서 본 것과 내 생각을 칼 같이 구분해서 적거나 이야기하는 것이 얼마나 가능할까? 그러다가 AI 대화록도 공개하자는 아야기가 나올 수 있겠지만, 그걸 어떻게 강제할 수 있는지도 의문이고, 그 과정에서 나오는 사생활 보호 같은 인권 문제는 무시되어도 되는 거냐고 따지면 또 할 말이 궁색해진다. 모종의 주장을 할 수는 있겠지만 이게 AI를 막아야 한다는 목적에 메여서 나오는 논리라면 반대 생각을 강하게 가지고 있는 사람과 계속 평행선을 그을 뿐이지 합의된 뭔가를 만들어내기는 힘들 것이다. 결국은 이미 생활에 녹아 있기에, 현실적으로 AI와 관련된 연구 윤리나 지침 등을 만드는 것이 꽤나 복잡 미묘해진 상태라는 생각이 든다. 예를 들어, 최근 수학계에서 나오는 이야기이기는 하지만, 연구에 쓰이는 AI는 이해를 추구하는 수학의 발전과 본질적인 방법론을 중요시하는 입장에서 우려스러울 수밖에 없을 것이다.(또 생각해 보면 그런 반응 자체가 의도와는 상관 없이, 혹은 AI의 성격이 어떠했는지, 혹은 어떤 문제에 어떻게 접근했는지와는 별개로 AI의 중요성을 부각시키는 이미지 메이킹에 쓰일 수 있는 것도 사실이다. 그게 언론에 크게 나온 그 시점에서..: 우려하는 사람의 심리와 받아들이는 사람의 심리가 다른 것이다..) 그런데 그것을 현실적으로 어떻게 제어할 수 있을까? 내가 혹은 동조하는 집단에서 쓰지 않거나 건전하게 쓰는 방식이라고 생각되는 방법을 제안한다고 해도, 그걸 모든 사람에게 강제하기는 힘들고, 이미 힘든 상황이 아닌가 싶다. 그리고 내 딴에는 그게 건전한 사용 방식이라고 생각했는데 많은 사람들이 이용하는 이상, 그것에서 이상한/더 위험한 뭔가가 파생되거나, 시간이 지남에 따른 변화를 받아들이지 못하고 교조화되어 결국 시대에 뒤처지거나 현실과 유리되어 자신들만 윤리적으로 생각하고 행동한다는 자기만족 이상의 가치가 없는 상황이 벌어질 수도 있다. 후자의 생각을 가지고 뭔가 행동하려고 할 때 그게 과연 항상 좋은 결과를 준다는 것을 어떻게 보장할 수 있을까... 아무리 막고 제어하려고 해도 아예 존재조차 모르는 것도 아니고, 이미 그것을 가지고 무엇인가를 할 수 있다는 것이 알려져 있다면 누군가는 몰래라도 쓸 수밖에 없고, AI를 썼는지 내 생각인지 구분하지 못하게 만드는 방법 역시 고안해 낼 수밖에 없다. 그것을 가지고 뭔가 이익을 얻거나 아니면 그런 억제에 반대하는 것이 옳다는 신념을 가지는 사람이 있을 수밖에 없다는 점에서 일어날 수밖에 없는 일이다. 역사적으로도 새로운 생각이나 도구들이 곧잘 그렇게 해서 존재가치를 이어갔고, 시간이 지나면서 사람들이 익숙해질 때 결국 일상생활에 녹아들곤 했으니까.. 많은 경우, 내가 피부로 느끼거나 이해관계와 충돌이 생기는 상황에서는 이미 돌이키기 힘들 정도로 발전된 상태이거나 그걸 이용해서 뭔가를 하고 싶어 하는 사람을 막기 힘든 상태가 되어 있을 확률이 높다. 이세돌 씨가 알파고와 대국한 게 세간의 많은 관심을 끈지도 벌써 10년이 다 되어 가는데, 이미 그때 AI는 모르는 사이에 많은 가능성을 가지고 이미 일상이나 연구에 깊은 관여를 해 온 생태라고 보는 것이 정확할 것 같다. 

 어쨌건 AI가 제어하기 힘든, 혹은 제어할 사람의 범위를 한정시키기 힘든 상황인 것도 사실이고, 그 이유 때문에 경계나 우려를 낳는 것도 또 사실이다. 각자의 생각과 입장에 따라 해야 할 일을 선택할 것이고, 그게 한동안 갈등의 원인이 되는 것은 피하기 힘들 것 같다. 오히려 그런 면에서 그닥.. 스러운 것은 스스로 나서서 방향을 정하고 그 속에서 생존을 모색하는 것이 아니라 뒤에서 계속 이건 이러니 저건 저러니 평가만 하는 사람들이라는 생각이 든다. 가끔 관련되어 오가는 이야기를 보고 듣다 보면 이미 당사자임에도 당사자 역할을 하는 것이 아니라 뒤에 물러서려고 하는데, 그럼에도 여전히 이건 이렇고 저건 저렇네라고 훈수만 두거나 그 논쟁이나 과정 자체를 가십화 하는 것 자체를 즐기는 사람들을 보게 된다. 이 역시 있을 수밖에 없는 사람의 유형이고, 또 그런 사람들을 좋게 생각하지 않는 나 같은 사람도 있을 수밖에 없는 유형이기는 하다. 생각해 보면 당사자인 척 하지만 실제 당사자가 아닌 경우도 있다. 사실, 지금도 연구를 하고 논문을 쓴다고 하지만, 초보자가 아님에도 실제 제대로 된 기여를 하거나 논문을 이해의 과정이 아닌 실적이나 다른 목적을 위한 도구로 여기는 경우는 많다. 그런 사람이 전통적인 방식으로 쓴 논문이 AI를 이용해서 생각을 넓힌 사람이 쓴 논문보다 학문에 대한 기여가 높다고 할 수 없을 것이다. 물론 AI를 이용해서 자신의 머리를 채우는 것과는 거리가 먼 단지 내놓을 뿐인 연구를 하는 사람도 늘어날 것이다. 그런데 그런 사람은 왠지 굳이 AI가 아니라도 다른 수단 (사람을 이용한다거나)을 가지고 본질적으로 같은 일을 할 것 같다. 반대로 생각하면, 주변의 여러 가능한 것들을 활용해서 자신의 머리를 채우고 싶은 사람이라면 AI도 같은 식으로 활용할 것이라서...