머신러닝, 그래프, 그리고 가짜 뉴스 팬데믹 (1부)

• Machine Learning

정치적 성향이나 인구 통계에 관계없이 최근 가짜 뉴스 붐의 영향을 부정하기는 어렵죠.

The Pew Research Center가 설문조사를 실시했는데요. 미국 성인 3명 중 2명은 가짜 뉴스의 급증으로 미국인들이 기본적인 사실조차 혼란스러워하고 있다고 믿고 있다고 해요. 또한 성인의 4분의 1이 스스로 가짜 뉴스를 공유했다고 인정했으며 거의 ​​동일한 비율이 고의로 또는 무의식적으로 공유한 것으로 나타났다고 합니다.

많은 사람들이 이러한 위조된 정보의 급증을 소셜 미디어 매체의 탓으로 돌렸어요. BuzzFeed News의 분석에 따르면 2016년 대선을 앞둔 마지막 3개월 동안 페이스북에서 가장 실적이 좋은 가짜 뉴스 기사 20개가 뉴욕타임스와 같은 주요 뉴스 매체의 상위 20개 기사보다 더 많은 공유, 반응, 댓글을 기록했다고 하네요.

가짜 뉴스는 단순한 기술 문제가 아니에요

가짜 뉴스로 인한 피해를 줄이기 위해 많은 사람들이 노력하고 있죠. 어떤 사람들은 가짜 뉴스를 찾아내는 과정을 자동화하기 위해 인공 지능과 Machine Learning을 고려하지만, Carnegie Mellon의 Dean Pomerleau나 Facebook의 Yann Lecun 같은 전문가들은 이렇게 말해요. "현재 문제는 기술만으로는 해결하기 너무 복잡하다"고요.

뉴스를 '가짜'로 분류하는 기준을 정하는 것조차도 인간의 판단이 필요한 모호한 부분이 많아요. Pomerleau는 심지어 그런 기계를 만들 수 있는 능력이 "AI가 인간 수준의 지능에 도달했다는 의미일 것"이라고 말하기도 했지만, 아직은 아니죠.

게다가 의도적으로 오해를 불러일으키는 뉴스와 단순한 실수, 풍자적인 기사, 터무니없게 들리는 실제 기사를 구별하는 건 훈련받은 사람조차 쉽지 않아요. (직접 한번 시도해 보세요. BBC에서 만든 퀴즈랍니다.)

Machine Learning의 역할은 뭘까요?

그렇다면 가짜 뉴스와의 싸움에서 Machine Learning과 인공지능은 어떤 역할을 할 수 있을까요? Pomerleau를 비롯한 많은 전문가들은 인간의 팩트 체크 도구를 대체하는 대신, 뉴스를 다음과 같이 인식할 수 있는 똑똑한 알고리즘이 필요하다고 믿고 있어요. 잠재적으로 가짜일 수 있는 뉴스를 말이죠. 이런 알고리즘은 대량으로 퍼지기 전에 잘못된 정보를 표시하고 격리하기 위해 사람과 함께 사용될 수 있어요.

예를 들어 Pomerleau는 AI 커뮤니티에 가짜 뉴스 챌린지를 제시했어요. 참가자들은 특정 주장에 대한 기사 본문의 편향성을 '동의', '반대', '논의', '관련 없음'으로 분류할 수 있는 모델을 만들도록 요청받았죠.

이것은 팩트 체커가 기사의 타당성을 조사할 때 수행하는 과정의 중요한 부분이에요. 목표는 주장의 모든 측면에 대해 관련 정보를 최대한 수집하여 그 신뢰성에 대해 현명한 결정을 내리는 것이죠. Machine Learning은 이러한 정보를 수집하는 빠르고 확장 가능한 방법으로 사용될 수 있어요.

하지만 정보를 추출하는 건 싸움의 절반에 불과해요. 기사가 진짜인지 가짜인지 판단하려면 기사에 대한 정보 그 이상이 필요하죠. 더 큰 뉴스 영역의 맥락에서 기사의 위치를 이해해야 해요.

따라서 의미 있는 결론을 내리려면 데이터를 연결하고 구조화해서 데이터 안에 숨겨진 관계를 활용할 수 있어야 해요.

Pomerleau의 입장 탐지 작업을 예로 들어볼게요. 특정 주장에 대한 기사의 편향성을 구별하면 기사의 동기에 대한 명확성이 더해지죠. 그런데 만약 기사의 편향성을 수천 개의 다른 기사의 편향성과 실시간으로 비교할 수 있고, 심지어 반대되는 기사를 낸 출판물의 신뢰성에 가중치를 부여하고 비교할 수도 있다면 어떨까요?

이런 도구는 팩트 체커뿐만 아니라 주제의 모든 측면을 탐구하려는 연구자에게도 정말 유용할 거예요. 유틸리티와 연결성 사이에는 강력한 상관관계가 있기 때문에, 연결된 데이터를 가장 잘 지원하는 데이터베이스를 구축하는 데에는 분명한 이점이 있겠죠?

Graph 기술과 Machine Learning은 어떻게 도움이 될까요?

Graph Database 기술은 대량의 데이터에서 연결을 인식하고 활용하는 가장 강력한 방법 중 하나예요.

In 이 기사에서 John Swain은 Graph를 사용해서 트위터의 주요 영향력자와 그들이 영향을 미치는 네트워크를 탐지하는 방법을 보여줬어요. 또한 국제탐사보도언론인협회(ICIJ)는 Graph를 사용해서 대규모 사기 및 부패를 탐지하기도 했답니다.

구글은 Knowledge Graph를 사용해서 검색 엔진을 강화하고 웹 전체를 설계하려 한다고 해요. 정말 대단한 생각이죠? 그래프 기술이 가짜 뉴스를 잡아내는 해결책이 될 수도 있을까요?

다양한 Machine Learning 알고리즘을 사용해서 "뉴스 그래프"를 만들고, 이걸 기반으로 뉴스를 여러 각도에서 분석할 수 있어요. 개별 기사와 그 기사의 출처 모두의 편향성과 신뢰성에 대한 통찰력을 얻을 수 있게 되는 거죠.

다음 주 포스팅에서는 이런 솔루션의 기반을 다지고, 뉴스 그래프의 구조와 데이터를 얻는 데 사용되는 알고리즘을 자세히 알아볼 거예요.

그래프 기술이 처음이신가요?
아래를 클릭해서 O'Reilly 책을 무료로 받고 그래프 기술의 힘을 활용하는 방법을 배워보세요.

• Machine Learning
• Machine Learning 알고리즘

---

에이치시스템즈의 LogTree는 Neo4j 기반 GraphRAG 플랫폼으로, 데이터를 자동으로 지식그래프화하고 자연어 질의로 즉시 답을 제공합니다.

👉 에이치시스템즈 홈페이지