AI 정보의 미래
캠벨 브라운은 메타의 첫 뉴스 책임자로서
정확한 정보를 쫓아온 경력을 가지고 있어.
이제 AI가 정보를 소비하는 방식을
재편하는 것을 보면서 역사가 반복될
위기에 처했다고 느끼고 있대.
그녀는 누군가가 이 문제를 해결하기를
기다리지 않고, 직접 나섰어.
그녀의 회사인 Forum AI는
“고위험 주제”에서 AI 모델의 성능을
평가하려고 해.
Forum AI의 접근 방식
Forum AI는 세계 최고의 전문가들을
모집해 벤치마크를 설계하고,
AI 판사들을 훈련시켜 대규모로
모델을 평가할 계획이야.
예를 들어, 지구 정치 분야에서
나이얼 퍼거슨, 파리드 자카리아,
토니 블링컨 같은 인물들을
모집했어. 😎
그 목표는 인간 전문가와
AI 판사가 약 90%의 합의를
이루는 것이라고 해.
정보의 흐름을 바꾸다
캠벨은 ChatGPT가 처음 출시되었을 때
메타에 있었는데, 그때 이 도구가 모든
정보의 유입 경로가 될 것이라고
느꼈대. 그녀는 정확성이
아무도 우선하지 않는 것에
좌절했어.
AI 모델들이 중국 공산당 웹사이트에서
정보를 가져오는 등 정치적 편향성이
있다는 점도 언급했어.
AI의 신뢰 문제
그녀는 AI가 진실을 최우선으로 최적화해야
한다고 주장하지만, 이게 이상적으로
들릴 수 있다는 것도 알고 있어.
기업들이 AI를 신뢰할 수 있도록
하는 것이 목표야.
기업들이 AI를 신뢰할 수 있도록
하는 것이 목표야.
이것은 기업의 요구에 부합하며,
Forum AI가 사업을 걸고 있는
부분이기도 해.
Forum AI는 지난해
Lerer Hippeau로부터
300만 달러를 투자받았어.
