토스증권, AI 기반 커뮤니티 검수 체계 도입…‘건전한 소통 환경’ 강화

토스증권이 건전한 투자 환경을 만들기 위해 자사 커뮤니티에 인공지능(AI) 기반 게시글 검수 체계를 도입했다고 4일 밝혔다.

단순한 금지어 중심의 필터링 방식을 넘어 게시글의 내용과 맥락을 종합적으로 분석해 건전한 소통을 저해하는 게시물을 차단하는 것이 특징이다.

앞으로도 투자자들이 커뮤니티에서 유용한 정보를 나눌 수 있도록 지속적으로 환경을 개선할 방침이다.이번 환경 개선에 따라 부적절한 게시글 차단의 정확성이 높아졌다.

AI 검수 모델이 커뮤니티에 올라오는 게시물의 제목과 본문, 이미지를 자동으로 분석해 욕설·비방, 혐오·차별 표현, 불법 리딩방 홍보 등을 막기 때문이다.

검수 결과에 따라 위반 정도를 판단해 게시글 숨김, 추천 제외 등의 조치를 적용한다…