今日紹介するのは、複雑で理解が難しいインターネット上での検閲基準についての興味深い記事だ。

中国語では「审核」と呼ばれる検閲は、場合によって、またテーマによって様々な組織が関わる。思いつくままに並べると、映画、テレビや最近では動画なども含むマスメディア関連、主に广电总局が出すラップ、入れ墨、ピアス、非主流、ゲイ、レズビアン、婚外恋愛、生まれ変わりに精霊、あと喫煙などなどの禁止などの通知がひとつ。

次に報道関係で出る禁令や記事化の指示というのもある。

これらは宣伝部や网信办(互联网信息办公室=インターネット情報弁公室)から出される。この辺の指示系統は複雑で、僕は国務院の下に新闻办公室(通称「新闻办」。正確には国の組織の場合は頭に「国家」がついて国新办と呼ばれる。マスメディアのニュース報道管理)と互联网信息办公室(通称「网信办」。インターネット上の情報、ネットニュースやSNSの管理)が実態としては同一組織として併存し、新闻办+网信办の共産党組織としての別名が中国共产党中央委员会宣传部であると理解している。この話については以前「15分でわかった気になれる「中国における時事ニュース取材の権利」について」で書いたが人事上もたすき掛けっぽくなっていたり色々謎が多いのだが。

このあたりは様々な報道や証言を読んでもあまりきちんと区別されず使われている場合もあり、整理された組織表があるわけでもないので(あるのかもしれないが)検証が難しいが、まあとりあえずはそんなところだ。ちなみによくSNSやアプリの運営担当が呼び出されてお説教される「约谈」を行うのは网信办。お説教が行われると速やかに大量のアカウント・記事が消えたりメンテナンスに入ったりするが、原因などによっては事業責任者の首が一発で飛ぶといった例もあるという。今日の記事はこの网信办が管轄する部分について、ということになる。

・・・・

記事の最後の方に述べられているが、現在SNSで行われている「検閲」は政府系機関の要求だけでなく、プラットフォーム側が自分を守るために自己検閲を行っている場合も多いともいわれる(それでやりすぎたのが18年の微博が同性愛を取り締まろうとして炎上、人民日報に批判されて3日後に撤回した事件だろう)。どちらの基準も完全なブラックボックスであり、ブラックボックスであることを利用して人々に圧力をかける仕組みになっている。また記事にはないが以前は大手SNSには网信办の担当者が出向していると聞いたことがある気もする。

プラットフォーム側は政府によるお取り潰しを避けるために自己検閲を行う。しかし多くの人手が必要な「汚れ仕事」は社内で処理するのにも限界がある…ということで専門の業者に外注されることが多い。実はその隠れた受託先大手が人民日報のネット版である人民網であることは以前紹介した(「済南、インターネット検閲の新しき都」)。なにせ共産党中央委員会の直属機関である人民日報のお墨付きをもらえるのだからショバ代の払い甲斐もある(といっても、実際に問題が起きた時彼らがその補償をしてくれるとも考えづらい気はするが)自ら利益があると思って依頼しているのか先方から「ウチを使えよ」と言われているのかはわからないが、とにかくこの検閲は中国においては一大ビジネスになっている。

今日の記事は以前の济南の記事のようなマクロ視点ではなく、ミクロで実際に検閲担当者が何をしているのか、どれだけの給料をもらい、どれだけの時間をかけているのか。また伏字や隠語はどの程度効果があるのか…といったより「参考になる」情報が詰まった記事になる。

・・・・

また、プラットフォーム側のやりかたとして単なる削除ではなく流入制限を使っていることも明かされている。

あまり意識されていないかもしれないが、こうしたプラットフォームの最大の権力の源泉はアクセス分配の権利を独占していることにある。抖音に顕著だが、表向き「AIであなた向けに」表示される動画のアルゴリズムは、実は「あなた向け」などではなく「プラットフォームが見せたいもの」を見せているだけだし無名の人が「上げた動画がたくさんの人に見られてうれしい」というのも、プラットフォームが意図的にそのようにアクセスを「分配している」というだけのことで、今あなたと利益が一致しているのは、いわば偶然にしか過ぎない。

「自分で探して回らなくていい」受け身型のメディアは確かに楽だし、人間は本質的に楽さを追い求める怠惰な動物だ。テレビはその代表だったが、複数のチャンネルがあるだけまだマシだ。しかしプラットフォームは基本的に独占を目指すし、「最適化」の名のもとにあなたの能動的な行動を阻もうとする。「まあまあご主人様、そこに座っててくださいよ。私がご主人様の好きなものをお見せしますから」というわけだ。しかし従順に見えるその召使は本当にあなたに忠誠を誓っているのだろうか。

プラットフォームはあなたの家族でも恋人でもない。また非常に多い勘違いだが、彼らは公的な存在ではない。公平である理由も動機もない。社会に対する責任とやらも鼻くそだ。営利企業なのだ。別に彼らは嘘をついているわけではなく我々が勝手に期待しているだけだし、営利企業であること自体は別に悪いことでも何でもないのだが…なんであれ彼らが見せたくないものは、永遠にあなたの目に触れることはない。

一時期Twitterのシャドウバンが話題になったように、これは中国に限るわけではない、プラットフォームビジネスというものの持つ根源的かつ普遍的な悪だ。現代ではそれをある程度受け入れられないと著しく不便であることも確かではあるが、せめて「便利な召使」の本性はわかったうえで付き合っていこう、という話かもしれない。

なお、言うまでもないかもしれないが(?)この記事もあっという間に削除された。むしろ良く公開されたな、という内容ではある。

・・・・

よかったらTwitter @linyi_china もフォローしてください。

・・・・

 

ショート動画検閲担当者の秘密:8秒で動画をチェック、給料は1万以上で運営担当と騙されて連れてこられる

出典:短视频审核员职业揭秘:八秒审一个视频、工资或破万、以运营岗“骗进来”(营销娱子酱 5/5 削除済→こちらから

とあるニュースアプリで“黑夜总会过去”という言葉を含む記事がアップできなかったことがある。それは「夜总会」が敏感語とされたからだ(訳注:実際の意図は黑夜/总会/过去=「暗い夜はいずれ過ぎていく」)。「起名」「神仙」といった言葉が動画の中に出現すればそれは封建的な迷信であるとして流入制限を課される可能性もある(訳注:起名については文末参照、神仙は广电总局の16年通知のことを指すと思われる)。

以前バラエティー番組で歌われた歌詞でも「ネガティブだ」というので“一吻便杀一个人”は“一吻便刷一个人”と歌詞を変えろと要求された。2020年になってもこういうことは毎日のように起こり、隆盛を誇るショート動画でもq(钱)、s(死)、gj(国家)、zgr(中国人)などの短縮表記がいたるところで見られるようになった(注:いずれもピンイン表記、例えば钱はqián)。

多くの人が今年の検閲の基準はどんどん厳しくなっていると敏感に感じ取っているかもしれない。5月になったが、多くのサイトやサービスが「悪意あるセールスを目的としたアカウント駆除」のプロジェクトを実施している。

例えば微博を例として挙げよう。微博は4月28日に運営オフィシャルアカウント「微博管理员」が「网络信息内容生态治理规定」に基づき違法な情報や悪意あるセールスを目的にしたアカウントを集中的に処理しすると発表した。5月1日には再度公告が出され、悪意あるセールスを目的にしたアカウントは下記のように分類されるとした。

他にもコンテンツプラットフォームの豆瓣は4月初頭に公告を出し、管理上の要請によりネット情報コンテンツの浄化活動を行うとした。5月になって、豆瓣は微博と同じように悪意あるアカウントの削除などを開始した。その他の同業、例えば知乎や今日头条も同じだ。

俗に言う「网络信息内容生态治理规定」というのはWXB(訳注:冒頭で出た国の管理組織「网信办」のピンイン頭文字をとった隠語)が昨年12月に発表し今年3月1日に施行された規定だ。この新しい規定はプラットフォームとコンテンツ制作者が合法にその言論を発表できる範囲を明確に定めており、同時に彼らの創作物が社会主義的価値観に沿っている内容であることを奨励し、逆にネット上の悪意ある誹謗中傷といった攻撃や人肉捜索(訳注:ある人物を攻撃する目的でネット上の公開情報を収集し身元を暴くこと。過去何度か地方政府の幹部の腐敗なども暴かれており政府にとって不都合とされる)、アカウントの操作を厳格に禁止している。この規定は以前までのそれに比べ、さらに細かくさらに厳格であるといっていいだろう。

この新しい規定の影響を受けてか、いくつかのウェブサイトに動きがみられた。4月8日、百度は突然いくつかのチャンネルを閉鎖、修正すると発表した。現時点で百度フィードは基本的には元に戻っているものの、記事のソースは(誰でも登録すれば開設できる)百家号ではなく、政府系メディアのものが多く、コンテンツ自体も非常に「ポジティブエナジー」に満ち溢れている。

そのほか影響を受けたのが知乎と豆瓣だ。4月16日にそれぞれユーザに対して規定に違反したコンテンツがきちんとした審査を通っていなかったなどとして、それぞれ北京网信办に20万元、25万元の行政処罰の罰金を支払ったと公告した。

強大な自主検閲とファンコミュニティの協力のもと、日増しに多くの語彙が奪われて行っている。近年、コンテンツ検閲業界に何が起こっているのだろう?ニュースの検閲から始まり今ではショート動画やライブなど一切のインターネットコンテンツに及ぶようになった中国語インターネットの今日に至る歴史は、決してその痕跡をたどれないものではない。

この話題に関して、エンタメ業界の資本論を主に取り上げる我々「营销娱子酱」は多くの検閲担当者にインタビューを試みた。彼らが教えてくれたのは、まず現在の技術水準において既に機器での検閲レベルは同音、ピンイン化などの変化を感知することができるまでになっており、もしそれが本当に「敏感語」であったら短縮表記などを用いても基本的に意味はないということだ。しかも現在広く行われているこうした短縮表記は事実上、最低レベルのコンテンツ制作者がブラックボックス化された検閲のルールの不透明さに対する恐怖のあまり自分で選んでいる方法に過ぎないのだ。

こうした検閲担当者の多くは武漢、济南、西安などの2級都市に住み、月に4500元ほどの月給(北京で海外を担当する場合は1万元を超える)を得て、3交代制のシフト制で働く。仕事自体は楽なものだが、その先のキャリアパスは不明確で、しかも少なくない人々は運営のポジションだと騙されて仕事を始めていた。厳格と積み重なる階層化された検閲システムは、最終的に全ネット民が自分で自分を去勢するという時代を導いた。

インターネットコンテンツはどのように検閲されるのか?

検閲業務は人の手から完全に離れることはできないというが業界の共通見解だ。確かんAI技術は発展し機械による検閲のレベルも上がりつつある。とはいえ今回インタビューを実施した幾人かの検閲担当者によれば完全に人間を代替するまでには至っていないという。「意識形態に関わるもの(訳注:文字上に明確に意味として現れない、の意味)は機械には判断することができない」と担当者はいう。

あるすでに離職済の検閲担当者A氏は、抖音などのショート動画アプリの95%は機械による検閲が行われ、一部のフォロワー数がおおかったり影響力が多いアカウントは人の目による検閲に回されると説明する。またもし一般人の動画の閲覧数が1000を超えた場合でも機械でのチェック後に人の目での二次的な検閲が行われる。

このような方法をとるため、DAU(デイリーアクティブユーザー数)七億を超える抖音や快手にとって検閲用人員の需要は高まるばかりだ。

コストを抑えるために、バイトダンス社(訳注:抖音Tiktokの運営会社)は天津、济南、成都などに子会社を作っているが、その土地で雇用される検閲用の人材の多くは正社員ではなくアウトソースだ。

南方週末の報道によれば、中国の検閲産業においては天津と济南が北方の2大基地で、西安が西北地区、重慶&成都が西南、武漢が華中を担当するという布陣になっており、多くの人は4-5000元の給与で24時間シフト制で勤務する。

「バイトダンスの検閲システムはかなり細かくできている」と検閲担当Bは言う。様々なチームに分けられている。たとえば高リスク対応チーム、青少年チームなど。高リスク対応チームはその名の通り高リスクとラベリングされた動画(例えば時局政治的な内容や敏感な地区からアップロードされた動画)、青少年チームが審査するのはユーザが青少年モードを選んだときに見るもので、審査基準は他の動画よりもさらに厳しくなる。

すべての担当者は自分の所属するチームの担当分野のみを処理する。動画の全部を見るか、音だけ聞けばいいか、もしくは多くの場合はタイトルやカバー画、キーフレームだけを見るということもあり、チームごとにアプローチは違う。

「(見なければいけない)長さも違うし、見るフレームの数も違う。多いのは動画ごとに24のフレームのキャプチャを見るという方法だ」とBはいう。機器による最初のチェックを通してタイトルやカバー、動画内の敏感語がマークされる。現在の技術水準でも動画内の文字はすでに認識、識別することができる。それは漢字を使おうが短縮語させようが関係ない。敏感語であれば基本的にすべて探知することができる。高リスクと判定された動画は人による2次検閲ののち、さらに経験豊富なスタッフによって最終的なチェックを行う。

もし規定違反の動画を見逃した場合個人の業績査定がマイナスされるだけでなく、チームの責任者は「社内のチーム全員が(誰が失態を犯したか)覚えていられるように」関係したスタッフの名前を黒板に書きだすことさえする。「規定違反動画は一般的に広告、違法、政治的、エロ、暴力などの大分類に分けられる。その中の政治やエロ、障碍者などを含むコンテンツを見逃した場合が最も罪が重い」。

音声の検閲の場合、技術的には声紋検知と言語識別が使われる。前者は喘ぎ声や溜息などの声、後者は各種のライブ放送に適用される。画像の検閲にはOCRや顔認証などの技術が用いられる。

相対的には文字コンテンツの検閲がもっともシンプルだといえる。各種敏感語の同音、ピンイン、符号化などの多くがシステムにより識別、修正されてしまう。しかし、現在の技術水準においては前後の言葉とのつながりをとらえることができず、これによって多くの誤検知が起こっている。このようなトラブルは晋江などのネット小説サイトで起こることが多い。

「なので、業界内ではこうしたネット小説のサイトの検閲はそこまで厳しくないという評価がある。なぜなら大量の検閲スタッフを雇用することは難しく、どうしても判定の大部分を機械に頼らなければならないからだ」と経験豊かな検閲スタッフは語っている。

検閲基準に影響するのは何か?

では検閲員の検閲基準には何が影響するのだろう?様々なレイヤーからそのプレッシャーは伝えられてくる。

通常は首都級の网信办が規定し各地の地方オフィスが対応し、ネット企業がさらに地方オフィスからの具体的な指示に応じて細則を定めていく、また政策の変動もこの細則の調整に影響する。

もし大きな事件が発生した場合は細則だけでなく会社全体の検閲チームを調整する必要も出てくる。たとえば18年のバイトダンスグループの内涵段子が封じられた時はバイトダンスは4000人の検閲担当者を増やしチーム全体は1万人にもなった。

当時バイトダンスに在職していた運営担当者Cは、「当時多くのプラットフォームが约谈された。大企業の政務担当の副総裁ですら離職を迫られていた」と語る。コンテンツ運営に経験が豊かなCは1日に100にも及ぶ网信办の北京オフィスが発する指示を受け取っていた。どのニュースはトップページに掲載できない、どのニュースは即時に消す必要がある…こういった指示はすべて素早く執行する必要があった。

Cはこうした検閲基準の変化について語る。「政府部門の検閲に対するロジックや考え方は変わっていない。しかし検閲の範囲は日に日に広く、細かい規定は日に日に多くなっていく。たとえば昨年超有名アイドルが離婚したが、これについてのニュースの通知はできるだけ減らすようにという指示があった」

すでに離職しているもうひとりの検閲担当経験者も規則自体は多少微調整はあるものの大きな変化は少ないと語る。この検閲規則を丸暗記し例を覚えさえすれば無意識に検閲を行うことができる。ただし、特殊な時期(訳注:国際会議、北京での大型政治イベントなど)の検閲基準はさらに厳しいものとなる。

このボトムラインをきちんと各担当者に把握させるために、特に新しいルールが発せられた場合などを中心にして政府の検閲部門は頻繁にトレーニングを行う。たとえば昨年年初に出た网络短视频内容审核标记细则、昨年12月に出た网络信息内容生态治理规定が発せられた時は審査部門、運営部門ともにトレーニングを受けることになった。

2018年の大きな変化ののち、ネットコンテンツ検閲業界は急速に発展した。市場にも网易易盾、图普科技、阿里绿网など多くの検閲用の機器が出現した。同時に、例えば人民网などの政策把握能力に長けた会社の受託検閲業務の収入も急速に伸びた。決算報告書によれば、18年の人民网の第三者コンテンツ検閲業務収入は前年同期比で166%増加したという。

人民网は19年の報告書で「弊社はコンテンツ領域における独特の競争優位を発揮し、クライアントにコンテンツリスクの低減サービスを行っている。業務範囲は記事、音楽、ネット文学、アニメ、オーディオ、ビデオ、公众号、ミニプログラム、ゲーム、広告、運営イベントなど」と記している。

大企業の検閲部門は日増しに専門性が上がっている。端媒体の報道によれば、むかしはスタッフを面接する場合、直接「某敏感事件を知っているか」などと本人に聞いていたが、これはリスクが高い。もし面接を受けた人が落選した場合このような敏感な内容が漏れてしまう。だから現在では会社は時局政務上の争点に関する意見を聞くだけだ。

このような事件ののち、現在ショート動画プラットフォームの検閲標準は業界内での最高基準(の厳しさ)に達している。多くのショート動画と協業するローカルメディアのスタッフに共通した意識を、湖南省のとあるローカルメディアの編集室主任が教えてくれた。「例えば夫妻がベッドの上で雑談しているとか抗日ドラマのシーン、こういった多くの我々にとっては放送に問題のない動画でも、彼らショート動画プラットフォームはアクセスに制限をかける」

検閲は我々の生活をどう変えるのだろうか?

24時間止まることない検閲機械の中で、すべての検閲担当者はライン工にしかすぎず、仕事の内容は単純で何の面白みもないものだ。「毎日8時間の勤務時間の中で3500の動画をチェックすることが私に課せられた最低限の仕事です」すでに離職したある担当者は言う。計算すると、平均8秒に1つの動画を見る計算だ。

具体的な検閲内容に目を移すと、実はその中で政治的に敏感な内容は非常に少なく、ほとんどがエロか広告だ。検閲員にとって最も精神的に消耗するのは自傷行為など血なまぐさいものと、ユーザが誰もこのエロの内容を見ていないと思い込んでいることだという。「我々はバックエンドから頻繁に女の子が『非公開』設定で裸の写真をアップするのを見ています。『自分だけが見える』なんてそもそもあり得ると思います?」。

徹夜仕事やそのつまらなさはこの仕事の本当のまずさではない。検閲員を最もやるせない気分にさせるのはその前途のなさだ。こうした仕事は技術的な要求は低く、ストレスも大きい。しかしネット企業の検閲への需要拡大は留まることを知らず、同時に大学生の就職難が続くこの状況では多くの有名大学卒業の学生が検閲員の道を選んでいる。

「弊社の海外検閲チームは(名門の)北京外国語大学から多くのマイナー言語専攻の学生を入社させましたよ」国際的に成功しているアプリの運営担当者はそう述べる。新卒の学生にとって月に1万元以上の給与をもらえ、仕事も別に忙しいわけではないこの仕事はぬるま湯のようなものだ。しかしその中の少なくない人たちは「騙されて」この仕事をしているという。彼らが見るJD(訳注:Job Discription=職務概要)上には「検閲」などと書くことは避けられ、ただ「運営」とだけ書かれていたりする。彼らは入社後すぐに自分の将来的なキャリアパスの可能性が大したことないことに気づいてしまうが、このような大企業に入れるのだから…と我慢してしまうのだ。

検閲という行為は検閲員の存在だけでなくコンテンツ制作者も変えた。検閲は日増しに厳しくなっており、だれもその安全ラインがどこにあるかわからない。だから、短縮表記などがはやる。

イタリアのup主”ルカ&ルイリー夫妻”はBilibili動画でショート動画の検閲規則について突っ込んでいたことがある。コロナの期間中、彼らは遠くに住む父母にショート動画を送ってもらった。中国への感謝などを示した内容で念のため動画の中の「中国」は全部「zg」、「国家」は「gz」、疫病は「yq」に変えたが結局検閲を通らなかった。

多くの人々が動画の中で「銭」は「q」、「死」は「s」などに置き換えている。金銭やネガティブな内容に及ぶものは大体そうだ。しかし多くの検閲員がこういった置き換えは何の制限にもならないという。本当にみなの生殺与奪を握っているのは運営スタッフなのだ。

運営スタッフは検閲を越えられるぎりぎりのコンテンツへのアクセス流入を制限することができる。たとえばステマ広告ではないかと疑われる場合、多くの人はカネ、無料、賠償などの単語を短縮表記する。ほかにも政府について述べたものも流入制限措置を取られる可能性がある。最も有名なのが「JC」「GJ」「YH」などだろう。

そして最近「起名」という文字が入った動画も抖音で流入制限ペナルティが課せられることにあるユーザが気づいた。最近流行った「ショート動画の有名うp主が名前をつけてあげる」が迷信にあたるという事のようだ(訳注:中国語の「起名」は子供に名前を付けるという意味だが、風水師などに縁起のいい名前を付けてもらう風習も地方によってはあるため、恐らくそれが迷信であるという意味)。

少し前、音楽バラエティ番組の歌詞がネガティブであるとして大量に変えられたのも番組制作チームの自主的な検閲の結果だ。たばこや入れ墨は画面に映ってはならず、「死亡」「牢笼(訳注:陥れる、束縛する)」といったネガティブな語も厳しく制限され、大地はポジティブエナジーに満ち溢れていく。

おおざっぱであいまいな検閲規定は検閲システムをひとつの漏斗に変えてしまった。コンテンツプラットフォームは検閲にあたって「もし誤って一人殺してしまったとしても一人を見逃すよりはマシ」という原則で往々にして政府の要求よりもさらに厳しく細かい自主規制を引く。政府部門と同じくプラットフォームの検閲においても具体的な基準がクリエイターに示されることはない。そうであれば、ただできる限り自分で自分を去勢するしか身を守る方法はなくなってしまう。

動画だけでなく文字コンテンツはもっと汚染されている。以前はよく「你懂的(わかるでしょ)」といった言葉が使われていた(訳注:そもそも敏感な内容を直接言わずに示唆するだけだった)。しかし「zz」「zf」「jc」といった言葉がBBSにもあふれ、日増しに常用語ですら剥奪されている。ゆっくりとではあるが、人々は問題について深く議論する望みと力を失いつつあるのだ。

2017年、大张伟という歌手が「不服来抖」という曲を書いたが、その時彼はこれが彼にとって最後のパンク作品になる、といった。歌詞では「我一刀捅了你的文艺/我一刀砍了你的感性」とうたわれていたが、こうした表現も放送できないということで「我一抖跺了你的文艺/我一抖碎了你的感性」と変えられてしまった(訳注:意味はあまり変わらないが、恐らく「刀」が直接的な暴力表現に当たるという判断か)。

しかし今、このように変えられてしまった後の歌詞でさえ本当に放送できるだろうか?皆慎まなければならないのだ、誰しも一秒後に地雷を踏んでいるのかもしれないのだから。

Related Posts

Privacy Preference Center