AI, 종이책을 삼키다.

404media에서 흥미로운 글을 읽었기에 여기에 정리해본다.

AI 기술이 폭발적으로 발전하면서 LLM 모델을 개발하는 빅테크 기업들은 심각한 문제에 봉착했다. 모델의 성능을 향상시키기 위해 많은 학습 데이터가 필요하지만, 역설적이게도 데이터의 어장이었던 인터넷이 AI가 스스로 만들어낸 저품질 콘텐츠, AI Slop으로 인해 오렴되었기 때문이다.

이 문제를 해결하기 위해 AI 기업들이 선택한 해결책은 '아날로그'였다. 현재 AI 기업들은 2022년 이전에 출간된 오래된 종이책을 대량으로 사들이고 있다. 이유는 '순수한 인간의 지식'을 확보하기 위해서다.

왜 2022년 이전의 종이책일까?
GenAI가 대중화된 이후, 웹상에 존재하는 콘텐츠의 상당수가 AI에 의해 생성된 글로 채워졌다. 문제는 AI 모델이 다시 이 데이터를 학습할 때 발생한다. 스스로 만들어낸 콘텐츠를 다시 학습하면 모델의 오류가 누적되고 다양성과 정교함이 떨어지는 현상이 나타난다.

이 관점에서 2022년 이전에 출간된 종이책은 최고의 학습 자원이다. 2022년은 Gen AI가 대중적으로 보급되기 시작한 시점이기에 이전에 인쇄괴어 실물로 존재하는 종이책은 오염으로부터 차단되어 있기 때문이다.

즉, 가장 좋은 AI 학습데이터는 책장에 있는 셈이다.

종이책 수집이 대안으로 떠올랐지만, 이 사실이 외부에 알려지는 것을 빅테크 기업들은 좋아하지 않는다. 인간의 지식 유산인 종이책을 디지털화하기 위해 잘라내고 파기하는 사실 자체가 대중에게 부정적 인식을 줄 수 있기 때문이다.

반면, 중고 서점상들은 판매량이 늘었기에 주머니가 두둑해졌다. 그러나 희귀본이나 절판본등도 포함되어 있기에 구하기 힘든 기록물이 영원히 사라진다는 단점도 존재한다. AI의 지능을 높이기 위해 인류의 유산이 파괴되는 것이다.

인터넷에 있는 콘텐츠들이 가짜 뉴스, AI 생성한 콘텐츠등으로 가득차면서 정교한 AI 모델을 만들기 휘새 오래된 아날로그 매체에 의존해야하는 아이러니한 상황이 발생했다. 즉, 종이책이 최고 품질의 데이터인것이 증명된 셈이다.

디지털의 발전으로 우리가 터부시했던 아날로그의 가치가 무엇인지 이번 현상을 통해 다시 생각하게되었다.

Source: https://www.404media.co/ai-companies-are-buying-tons-of-old-books-because-theyre-free-of-ai-slop/

✍ Written with Marklog