[칼럼] AI 안전과 혁신 사이

KakaoTalk_20241216_164656785 0 김경훈 카카오 AI Safety 리더

지난 11월 27일, 한국의 실리콘밸리, 판교에서 인공지능(AI) 안전연구소 개소식이 진행됐다. AI 안전에 대한 공통의 과학적 이해를 창출하고, 국제 연구를 통해 상호 운용가능한 원칙을 마련하는 것을 목표로 하는 AI안전연구소의 출범은, 올해 5월에 있었던 AI 서울 정상회의의 후속 조치로서 AI 안전을 국가 차원의 의제로 설정했다는 점에서 의의를 갖는다.

이미 미국, 영국, 일본, 싱가포르, 캐나다 등 주요국이 모두 AI안전연구소를 설립했고, 이를 중심으로 각국의 산·학·연의 AI 안전 역량이 집결되고 있는 만큼 AI 안전은 AI의 발전사에서 빼놓을 수 없는 주제가 됐다.

한편, AI 안전에 대해서 회의적인 관점도 존재한다. 생성형 AI를 기점으로 이제 막 걸음마를 떼고 날아오를 준비를 하는 AI를 눈앞에 두고, AI 안전을 고려하는 것은 시기상조이며 AI 안전에 대한 지나친 강조는 오히려 AI의 혁신을 저해할 것이라는 시각이 대표적인 예이다. 해외에서는 AI 기술 발전을 위해 AI 윤리 또는 AI 안전담당자를 해고하고 관련 조직을 해산시켰다는 내용의 기사도 심심치 않게 접할 수 있다.
AI 안전은 혁신을 저해하는가? AI 혁신은 반드시 위험성을 수반하는가? 그렇지 않다. 아니 정확히는 질문이 잘못됐다. AI 안전과 혁신은 하나의 직선 위에 고정된 양 끝점이 아니라 개별적인 벡터로서 존재하기 때문에 두 개념 사이의 대체 혹은 보완 관계는 벡터의 방향성에 따라 정해진다.

다시 말해, 정책적으로, 그리고 기술적으로 서로 다른 두 개의 벡터를 하나의 방향으로 일치시키면 AI 안전과 혁신은 서로 시너지를 낼 수 있으나, 만약 조금이라도 방향이 맞지 않는다면 서로의 효과를 상쇄할 것이다.

AI 안전연구소의 역할은 'AI 안전'과 'AI 혁신'이라는 이름의 두 개의 벡터를 하나의 방향으로 일치시키는 것이다. 그 역할에 맞게 AI 안전과 혁신이 서로 상충되지 않도록 정부와 기업에 올바른 방향을 제시할 필요가 있는데, 이는 AI 안전 표준 수립, 시민의 AI 안전 문해력(literacy) 제고, 그리고 AI 안전 기술 연구개발(R&D)에 의해 뒷받침된다.

우선 AI 안전 표준은 올바른 방향을 잡는데 길잡이로 작용할 수 있다. AI 안전과 혁신이 지속적으로 같은 방향을 바라볼 수 있도록 표준 평가데이터셋, 표준 평가 프레임워크 등을 제시해야 한다. 설령 AI 안전연구소가 옳은 방향을 제시했다고 하더라도 AI의 이용 주체인 시민이 AI를 악의적으로 활용한다면 AI 안전과 혁신은 반대 방향에 놓일 수 있게 된다. 최근 큰 이슈가 되었던 딥페이크 기술이 대표적인 예로, 이를 방지하기 위해서는 AI 안전에 대한 체계적인 교육이 필요하다.

마지막으로 AI 안전이 혁신에 뒤쳐지지 않도록 워터마크와 같은 AI 안전 관련 기술 개발에 대해서도 적극적인 투자가 필요하다.

AI 안전이 담보되지 않는 AI 혁신은 시장의 선택을 받지 못할 것이며, AI 혁신이 없는 AI 안전은 그저 알맹이 없는 정책으로만 남을 것이다. 지난 지난달 AI 안전연구소 개소식에서 초대 소장이 '히말라야 등정을 돕는 세르파(Sherpa) 같은 연구소'가 되겠다는 포부를 밝힌 바와 같이, AI 안전연구소가 AI 안전과 혁신이 공존할 수 있는 방향을 제시함으로써 AI 강국을 향한 대한민국의 험난한 여정을 무사히 마칠 수 있도록 역할을 다할 수 있기를 기대해 본다.