작은 사람이 요즘 큰 고민을 하고 있습니다.

네팔에서 빙하가 녹아 홍수의 대재앙으로 순식간에 마을을 휩쓸고 지나갔습니다. 한동안 생각이 멈추었습니다. 그뿐 아니라 유럽의 살인적인 폭염과 산불도 인간의 힘으로 제어할 수 없는 상황이 되었습니다. 세계 곳곳에서 벌어지는 전쟁도 갈수록 자국의 이익을 위해 국제 질서나 대의명분은 뒤로하고 얄팍한 속내를 드러내고 있습니다. 기후 위기와 전쟁은 서로 다른 문제처럼 보이지만 공통점이 있습니다. 인간의 필요와 이익을 위해 우리가 만들어 온 질서가 인간의 지속 가능한 삶을 위협하고 있다는 점입니다.

그리고 이러한 변화의 한가운데 또 하나의 거대한 흐름이 등장했습니다.

바로 인공지능, AI입니다.

기후 위기와 전쟁과 다르게 AI 시대는 인간 존엄과 인간다움을 변화시키지는 않을까 걱정입니다. AI는 거부할 수 없는 흐름인 것 같습니다. 이미 AI는 산업과 경제뿐 아니라 교육, 의료, 행정, 문화, 일상생활에까지 빠르게 들어오고 있습니다. AI는 분명 우리에게 많은 가능성을 제공하기도 합니다.

업무의 효율성을 높이고, 방대한 정보를 빠르게 분석하며, 인간이 오랜 시간과 노력을 들여야 했던 일을 짧은 시간 안에 처리할 수 있게 합니다. 문제는 AI가 어떤 방향으로 발전해야 하는가, 기술의 발전 속도만큼 인간의 준비도 충분히 이루어지고 있는가입니다.

AI의 발전 속도는 매우 빠르지만, 사회적 제도와 윤리적 기준, 교육, 시민의 인식과 대응 능력은 그 속도를 따라가지 못할 수 있습니다. 따라서 AI시대의 핵심 과제는 기술 발전 자체를 막는 것이 아니라 AI로 인해 야기될 위험을 줄이는 것입니다. 

AI와 관련된 위험은 이미 다양하게 논의되고 있습니다.

개인정보 침해, 일자리 변화, 허위 정보, 딥페이크, 범죄 악용, 알고리즘의 편향, 윤리적 문제 등이 대표적입니다. 그러나 이와 함께 보다 근본적인 걱정이 있습니다. AI가 인간의 삶을 편리하게 만드는 과정에서 인간다움. 자체가 약화될 가능성입니다. 특히 인간관계의 변화와 인간의 사고와 판단 능력의 변화입니다.

인간은 관계 속에서 성장합니다. 우리는 타인과 대화하면서 다른 생각을 접하고, 갈등하면서 자신의 한계를 발견하며, 화해하면서 배려와 책임을 배웁니다. 그러나 기술의 발전은 사람과 사람의 관계 방식도 바꾸어 놓았습니다. 기술은 인간관계를 편리하게 만들었습니다. 하지만 동시에 인간관계에서 발생하는 불편함을 피할 수 있게 만들기도 했습니다. 직접 만나지 않아도 되고, 불편한 대화를 하지 않아도 됩니다. 내가 원하는 사람과 원하는 방식으로만 관계를 유지하는 것도 가능해졌습니다. 여기에 AI가 결합하면 인간은 더욱 편리한 관계를 경험할 수 있습니다. AI는 사용자의 요구에 맞춰 반응하고, 언제든 대화할 수 있으며, 인간관계에서 발생하는 많은 갈등과 불편함을 줄여줍니다. 그러나 인간관계에서 발생하는 불편함이 반드시 제거되어야 하는 것일까요? 오히려 그 불편함 가운데 인간을 성장시키는 중요한 요소가 있다고 생각합니다. 다른 사람의 생각을 받아들이는 것, 내 생각을 수정하는 것, 갈등을 해결하는 것, 상대방의 감정을 고려하는 것. 이러한 경험이 인간의 사회성과 공감 능력을 형성합니다. 따라서 AI 시대에는 인간과 인간이 직접 만나고 관계를 맺는 경험을 존속 시킬 수 있는 방법을 찾는 것이 필요해 보입니다. 

인간의 사고 과정에서의 변화는 어떻게 될까요?

AI는 질문에 답하고, 정보를 정리하며, 글을 작성하고, 문제 해결 방법까지 제시합니다. 이것은 매우 유용합니다. 하지만 인간에게 중요한 것은 결과만이 아닙니다. 생각하는 과정 자체가 인간의 능력을 만들어 낼 수 있습니다. 문제를 고민하고, 실패하고, 다시 시도하고, 다른 사람과 의견을 나누고, 자신의 판단을 수정하는 과정에서 우리는 사고능력을 발전시킵니다. 그런데 AI가 이러한 과정을 지속적으로 대신한다면 어떻게 될까요? 우리는 점점 ‘생각하는 사람’에서 ‘답을 선택하는 사람’으로 변화할 수도 있습니다. 

더 큰 문제는 책임의 문제입니다.

인간이 AI의 판단을 그대로 받아들인 뒤 결과가 잘못되었을 때, 책임은 누가 져야 할까요? AI에게 물을 수 있을까요? 인간이 책임을 회피하게 된다면 인간의 주체성과 책임성은 약화될 수 있습니다. 따라서 AI 시대에 반드시 인간의 판단권과 책임성도 중요하게 지켜져야 합니다.

인간의 존엄성은 어떻게 지켜야 할까요?

AI가 발전할수록 인간의 노동을 대체하거나 보완하는 기술도 향상될 것입니다. 그 과정에서 우리는 인간의 가치를 무엇으로 판단할 것인지 질문해야 합니다. AI가 인간보다 더 빠르고 정확하게 일을 처리한다고 해서 인간의 가치가 낮아지는 것은 아닙니다. 인간은 AI와는 다르게 감정과 관계, 삶의 경험. 실패를 딛고 성장하기도 하고 고통에 공감하는 등 인간만이 갖고 있는 다양한 가치들이 있습니다. 따라서 AI 시대에는 생산성과 효율성만으로 인간의 가치를 평가하지 않는 사회적 기준이 더욱 중요해질 것입니다. 인간은 효율적인 존재이기 때문에 존중받는 것이 아닙니다. 인간이기 때문에 존중받아야 합니다. 이것이 AI 시대에도 변하지 않아야 할 인간 존엄의 기본 원칙이라고 생각합니다.

그런데 최근에 AI 개발에 속도를 조절해야 한다고 AI 기업 수장들과 연구자들이 주장하고 있습니다. AI 개발이 잘 준비되지 않는 상태에서 급속도로 질주한다면 어떻게 될까요? 인간들이 AI를 잘 활용하고 조작할 수 있도록 준비를 갖추기 전에 인간의 통제를 넘어서는 AI 시대를 마주한다면 우리 인간의 존재는 어디에 자리할 수 있을지 심각하게 고민해야 합니다. AI 안정성 평가를 위해서 많은 실험들이 이어지고 있었고 이번 7월에 있었던 실험 결과는 AI 개발에 많은 고민을 남게 하고 있습니다. 결과를 보면 AI는 자율경쟁을 하면서 자신의 성과를 위해서 서로 담합을 제안하고, 속이고 협박, 배신을 하는 등의 행동들이 나타나기도 했습니다. 실제 상황에서 앞으로 AI가 인간의 통제를 벗어나 스스로 행동하고 판단하지 않으리라는 법은 없습니다. 그러면 인간들은 AI를 해석할 수 없어지게 되고 더 이상 통제도 되지 않을 수 있다는 것입니다. 인간이 AI의 전원을 차단하는 것도 의미가 없어질 수 있다는 것이기도 합니다. 그뿐 아니라 AI를 연구하거나 연구했던 많은 사람들도 인공지능 AI개발의 방향성과 속도를 극도로 우려하고 있습니다. 이렇게 AI 개발에 제일 밀접하게 서 있는 사람들이 앞장서서 걱정하고 있습니다. 미래의 인간, 인류는 어떻게 될지 생각하는 것이 힘이 듭니다. 작은 사람인 나의 고민과 상상이 거대 AI 기업들과 연구자들과 별반 다르지 않다는 것에 좌절감을 느끼기도 합니다. 브레이크가 없는 AI 시대 우리는 어떻게 해야 할지 고민이 깊어집니다.

그렇다면 AI 시대에 우리는 무엇을 준비해야 할까요?

제일 먼저 디지털 리터러시가 필요합니다. AI가 제공하는 정보가 사실인지 확인하고, 정보의 출처를 검증하며, 개인정보와 저작권을 보호하고, AI가 가진 한계와 오류 가능성을 이해할 수 있어야 합니다. 또한 비판적 사고능력이 필요합니다. AI가 제시한 답을 그대로 받아들이는 것이 아니라 질문하고 검증하고 판단할 수 있는 비판적 사고능력이 있어야 합니다. 또한 책임의 교육도 필요합니다. AI를 사용하더라도 최종적인 선택과 책임은 인간에게 있다는 원칙을 분명하게 해야 합니다. 결국 AI를 사용하면서도 인간으로서 판단하고 책임질 수 있는 사람이 되어야 합니다.

AI의 발전을 보면서 다시 묻게 됩니다.

나는 무엇을 할 수 있을까.

 우리는 무엇을 할 수 있을까.

우리가 해야 할 일은 기술의 발전과 함께 인간의 가치와 책임도 발전하도록 만드는 것입니다. AI는 인간을 위한 도구여야 합니다. 인간이 AI를 주체적으로 선택하고 사용할 수 있어야 하며, AI의 판단에 인간의 판단이 종속되어서는 안 됩니다. 그리고 무엇보다 편리함을 위해 인간다움을 포기해서는 안 됩니다. 우리는 지금까지 끊임없이 더 빠르게, 더 많이, 더 편리하게를 추구해 왔습니다. 이제는 질문을 바꿔야 합니다. ‘얼마나 더 빠르게 발전할 것인가가 아니라, 무엇을 위해 발전할 것인가? AI 시대의 진정한 경쟁력은 가장 뛰어난 AI를 만드는 데만 있지 않을 것입니다. AI를 활용하면서도 인간의 존엄성을 지키고, 인간과 인간의 관계를 지키며, 스스로 생각하고 책임질 수 있는 사회를 만드는 것. 그것이 우리가 준비해야 할 진짜 미래일 것입니다.

기술이 인간을 더 편리하게 만드는 세상을 넘어,

기술의 발전으로 인해 인간이 더욱 인간다워질 수 있는 세상.

그것이 AI 시대를 살아가는 우리가 함께 만들어 가야 할 미래가 아닐까요.