[脫嫌悪社会] 30日早朝「緊急対応令」発動… 呼吸したネイバー・カカオの12時間
入力2022.11.02。午前6時 修正2022.11.02. 午前6時02分
チェ・ユリ記者
有害投稿対応組織緊急対応、遮断後の異議申し立て
届受付された投稿露出遮断…作成者サービス制限措置も
編集者
死傷者307人、死亡155人、「梨泰院惨事」で元国民が大きな衝撃を受けたこの時、ヘムクは「嫌悪」が再び夢を見ている。種類も種類も多様だ。政府が被害者支援方針を出すと、「踊って遊びに行って買ったが、なぜ私が出した税金を使うのか」という反応から、「団体に出てきた中国人が押した」という根拠のない疑惑と人種・性別の割れが起きる。
嫌悪投稿には加害者も被害者も存在しない。加害者は別の嫌悪加害者によって被害者に転落し、伝染病のように一瞬で広がる。結局これを防ぐことができるのは韓国社会の深夜努力だけだ。
惨事以後息を切った私たちの二日を振り返って嫌悪社会を抜け出して、私たちがどこに行くべきかを調べた。
「ハロウィンパーティーが進行中の梨泰院で圧死事故が発生しました。選定的な映像、写真はもちろん、悪意のある噂、嫌悪発言などが予想されますので、皆モニタリング強化願います。」
30日早朝「緊急対応令」発動
365日24時間申告受付された投稿を見て措置する。普段同じであれば、有害な投稿者に異議を申し立てる人が多いが、夜明けの時間だと申告件数も多くない。人工知能（AI）でフィルタリングできるイメージには、極めて選定的またはポルノに準ずる投稿がほとんどだ。
29日真夜中に梨泰院（イテウォン）圧事事故関連のニュースが一つ二つ伝えられた。事故に関して確認されていない事実が広がることも源泉を遮断することは不可能だった。放送会社も現場にいる市民たちの電話インタビューをろ過なく出していた状況が続いた。
現地の状況をよく知らない利用者が被害者に向けて毒説を注ぎ出し、再びこれを反論する文が続いて「嫌悪」と「憎悪」、世代・性別間の葛藤を助長する悪性のコメントまで登場し、状況は歩くことができないほど大きくなった。
有害投稿を管理するネイバー利用者保護パートとカカオモニタリング専任チームは緊急対応令を発動させた。この事態のように社会的波長が大きく2次被害が懸念される場合、緊急対応に入る。
今回の緊迫した状況が続いた30日明け方、モザイクやぼかし処理などの措置をしていない現場写真や映像、事故に関して確認されなかった事実などがオンライン上で急速に広がりながらモニタリングを行う2社の社員はさらに忙しくなった。毎日映像を遮断して利用者が見ることができないように隠すことをしなければならなかった。
30日正午「梨泰院事態」緊急告知後、有害投稿集中遮断
30日正午ネイバーとカカオは梨泰院事態緊急対応令発動12時間で掲示文関連の緊急告知を上げた。惨事現場の写真、映像を最大限控え、虚偽の事実などの流布を中断してほしいという勧告事項を掲示した。以後注がれる申告件を処理し、検索、企画、事業チームなど関連機関を総動員して有害な投稿を見つけてブロックし始めた。選定的な写真と映像は一つ二つずつ跡を包み、嫌悪と憎しみを込めたコメントは隠された。
ネイバーはモニタリング専任チームと緊急届出センターで有害投稿対応を担当している。
有害な投稿による被害を最小限に抑えるために報告が入ると、監視後にその投稿をブロックし、後で作成者に異議を申し立てる。淫乱投稿に対してはリアルタイムでイメージを感知して露出を防ぐAI技術「X-eye」を適用中だ。
梨泰院惨事後、ネイバーは投稿モニタリングを強化している。去る30日からカフェ、ブログなどコミュニティ通知を通じて約款に違反するコンテンツは申告手続きを通じて処理するよう案内している。
カカオ、「オープンチャット」も露出をブロック… 報告累積時にユーザーIDを停止
カカオは利用者保護パートを中心に対応中だ。
普段は有線、オンラインで届け出た後に対応するが、今回の事態のように重大な問題が発生すればアクティブモニタリングに突入する。報告を受けた投稿は露出をブロックします。特定の投稿やコメントだけでなく、問題コンテンツを無分別に共有したカカオトークオープンチャットも検索結果に露出しないなど措置対象となる。
コメントの場合、届出がなくても運営政策に違反した場合、「セーフボット」の人工知能（AI）技術で分析してブラインド処理する。
届出が累積される場合、当該掲示物をあげた利用者に対しても措置を行う。カカオトークでは、友達リストから検索及び露出制限からメッセージ転送制限、チャットルーム利用制限、サービス全体利用制限まで一時的・永久的に可能だ。次に、IDを一時または永久に停止できます。
カカオ関係者は「利用者保護パートと連携部署が週末から緊急対応に入った」とし「モニタリングを強化する一方、外部機関と協業してコンテンツ規制ガイドラインなど利用者保護政策を作っている」と話した。
Facebook、Twitterなど主要SNSも対応に乗り出した。Twitterは、機械学習などを利用して運営原則に違反するコンテンツを識別・削除している。悪意のある投稿に対する申告を受けて該当コンテンツを監視するTwitter運営原則施行チームを運営中だ。Facebookも独自のガイドラインと悪用事例申告チャンネルを通じて措置している。
（注）例のように推敲が十分ではないので、適宜整理し直しています。
[혐오 사회] 30일 이른 아침 「긴급 대응령」발동… 호흡한 네이바·카카오의 12시간
입력 2022.11.02.오전 6시 수정 2022.11.02. 오전 6시 02분
최·백합 기자
유해 투고 대응 조직 긴급 대응, 차단 후의 이의 제기
계접수된 투고 노출 차단…작성자 서비스 제한 조치도
편집자
사상자 307명, 사망 155명, 「이태원 참사」로 모토쿠니민이 큰 충격을 받은 이 때, 헴크는 「혐오」가 다시 꿈을 꾸고 있다.종류도 종류도 다양하다.정부가 피해자 지원 방침을 내면, 「춤추어 놀러 가서 샀지만, 왜 내가 낸 세금을 사용하는 것인가」라고 하는 반응으로부터, 「단체에 나온 중국인이 눌렀다」라고 하는 근거가 없는 의혹과 인종·성별의 분열이 일어난다.
혐오 투고에는 가해자나 피해자도 존재하지 않는다.가해자는 다른 혐오 가해자에 의해서 피해자에게 전락해, 전염병과 같이 일순간으로 퍼진다.결국 이것을 막을 수 있는 것은 한국 사회의 심야 노력 뿐이다.
참사 이후숨을 자른 우리의 이틀을 되돌아 보고 혐오 사회를 빠져 나가고, 우리가 어디에 가야할 것인가를 조사했다.
「할로윈 파티가 진행중의 이태원에서 압사 사고가 발생했습니다.선정적인 영상, 사진은 물론, 악의가 있는 소문, 혐오 발언등이 예상되기 때문에, 모두 모니터링 강화 바랍니다.」
30일 이른 아침 「긴급 대응령」발동
365일 24시간 신고 접수된 투고를 보고 조치한다.평상시 같으면, 유해한 투고자에게 이의를 제기하는 사람이 많지만, 새벽의 시간이라고 신고 건수도 많지 않다.인공지능(AI)으로 필터링 할 수 있는 이미지에는, 지극히 선정적 또는 포르노에 준하는 투고가 대부분이다.
29 히마 한밤중에 이태원(이태원) 압모든 일 고 관련의 뉴스가 하나 둘 전해졌다.사고에 관해서 확인되어 있지 않은 사실이 퍼지는 일도 원천을 차단하는 것은 불가능했다.방송 회사도 현장에 있는 시민들의 전화 인터뷰를 여과 없게 내고 있던 상황이 계속 되었다.
현지의 상황을 잘 모르는 이용자가 피해자에게 향해서 독설을 따르기 시작해, 다시 이것을 반론하는 문장이 계속 되어 「혐오」와「증오」, 세대·성별간의 갈등을 조장 하는 악성의 코멘트까지 등장해, 상황은 걸을 수 없는 만큼 커졌다.
유해 투고를 관리하는 네이바 이용자 보호 파트와 카카오 모니터링 전임 팀은 긴급 대응령을 발동시켰다.이 사태와 같이 사회적 파장이 크고 2차 피해가 염려되는 경우, 긴급 대응에 들어간다.
이번 긴박한 상황이 계속 된 30일 새벽녘, 모자이크나 애매하게 해 처리등의 조치를 하고 있지 않는 현장 사진이나 영상, 사고에 관해서 확인되지 않았던 사실등이 온라인상에서 급속히 퍼지면서 모니터링을 실시하는 2사의 사원은 한층 더 바빠졌다.매일 영상을 차단하고 이용자가 볼 수 없게 숨기는 것을 해야 했다.
30일 정오 「이태원 사태」긴급 공지 후, 유해 투고 집중 차단
30일 정오 네이바와 카카오는 이태원 사태 긴급 대응령발동 12시간에 게시문 관련의 긴급 공지를 올렸다.참사 현장의 사진, 영상을 최대한 삼가해 허위의 사실등의 유포를 중단해 주었으면 한다고 하는 권고 사항을 게시했다.이후 따라지는 신고건을 처리해, 검색, 기획, 사업 팀 등 관련 기관을 총동원해 유해한 투고를 찾아내 블록하기 시작했다.선정적인 사진과 영상은 하나 둘씩 자취를 싸, 혐오와 미움을 담은 코멘트는 숨겨졌다.
네이바는 모니터링 전임 팀과 긴급 신고 센터에서 유해 투고 대응을 담당하고 있다.
유해한 투고에 의한 피해를 최소한으로 억제하기 위해서 보고가 들어가면, 감시 후에 그 투고를 블록 해, 다음에 작성자에게 이의를 제기한다.음란 투고에 대해서는 리얼타임에 이미지를 감지하고 노출을 막는 AI기술 「X-eye」를 적용중이다.
이태원 참사 후, 네이바는 투고 모니터링을 강화하고 있다.지난 30일부터 카페, 브로그 등 커뮤니티 통지를 통해서 약관에 위반하는 컨텐츠는 신고 수속을 통해서 처리하도록(듯이) 안내하고 있다.
카카오, 「오픈 채팅」도 노출을 블록 …보고 누적시에 유저 ID를 정지
카카오는 이용자 보호 파트를 중심으로 대응중이다.
평상시는 유선, 온라인으로 신고한 후에 대응하지만, 이번 사태와 같이 중대한 문제가 발생하면 액티브 모니터 링에 돌입한다.보고를 받은 투고는 노출을 블록 합니다.특정의 투고나 코멘트 뿐만이 아니라, 문제 컨텐츠를 무분별하게 공유한 카카오 토크 오픈 채팅도 검색 결과에 노출하지 않는 등 조치 대상이 된다.
코멘트의 경우, 신고가 없어도 운영 정책에 위반했을 경우, 「세이프 보트」의 인공지능(AI) 기술로 분석해 블라인드 처리한다.
신고가 누적되는 경우, 해당 게시물을 준 이용자에 대해서도 조치를 실시한다.카카오 토크에서는, 친구 리스트로부터 검색 및 노출 제한으로부터 메세지 전송 제한, 대화방 이용 제한, 서비스 전체 이용 제한까지 일시적·영구적으로 가능하다.다음에, ID를 한때 또는 영구히 정지할 수 있습니다.
카카오 관계자는 「이용자 보호 파트와 제휴 부서가 주말부터 긴급 대응에 들어갔다」라고 해 「모니터링을 강화하는 한편, 외부 기관과 협업해 컨텐츠 규제 가이드 라인 등 이용자 보호 정책을 만들고 있다」라고 이야기했다.
Facebook, Twitter 등 주요 SNS도 대응에 나섰다.Twitter는, 기계 학습등을 이용해 운영 원칙에 위반하는 컨텐츠를 식별·삭제하고 있다.악의가 있는 투고에 대한 신고를 받아 해당 컨텐츠를 감시하는 Twitter 운영 원칙 시행 팀을 운영중이다.Facebook도 독자적인 가이드 라인과 악용 사례 신고 채널을 통해서 조치하고 있다.
(주) 예의 같게 퇴고가 충분하지 않기 때문에, 적당 다시 정리하고 있습니다.