2021年、アメリカとカナダは「ウイグル問題」をジェノサイドに認定しました。
「ガス室を使わないジェノサイド」
つまり、歴史的な今までのジェノサイドとは違う形でジェノサイド認定されたのです。
「AI監獄ウイグル」（2022 ジェフリー・ケイン、濱野大道訳）を参考に、わかりやすく問題を紹介していきます。
2021年1月19日、アメリカ国務省は強制的な不妊手術を引き合いに出し、新疆（しんきょう）ウイグル自治区の”状況”をジェノサイドだと宣した。
ー「中国当局は脆弱な少数派宗教民族の強制的な同化と最終的な抹殺を進めている」
「AI監獄ウイグル」p324
アメリカがジェノサイド認定した2週間後に、カナダも認定しました。
- 2017年以降、推定180万人のウイグル人、カザフ人、そのほかの少数民族の人々が中国政府に強制収容
- ウイグル人の出生率がデータから減少していると指摘
「ウイグル問題」で問題視されている３つの側面を、物語にそってわかりやすく紹介していきます。
（本で偽名を使っているのは、まだウイグル問題が続いているからです）
- 人権問題
- テクノロジー問題
- 新しい冷戦
この３つの問題を取り扱っていきます。
ウイグル問題と人権問題
メイセムは語る。
新疆（しんきょう）ウイグル自治区での生活は地獄だった。
毎朝、自宅にいながらにして、政府から派遣されてきた監視員の隣で目をさます。
監視員はメイセムが「心のウイルス」におかされていないかをチェック。
心のウイルスとは３つの悪のこと。
３つの悪
- テロリズム
- 分離主義
- 過激主義
チェックにはこう答える。
「党を愛しています。国を愛しています！」
朝のチェックを終えると、10軒を管理する地域自警団の役員から声がかかる。
「昨日、仕事を遅刻したようですが、何があったんですが？」
目覚まし時計のかけ忘れという犯罪のために、地元の警察署に出頭。
仕事を休んだのなら、病気の診断書を用意しなければいけない。
不規則なことがあれば、その明確な理由がいる。
メイセムは買い物、出勤といった日常をこなすために、あらゆる場所でIDカードをスキャンする。
「信用できる」
と表示されればよいのだけれど、「信用できない」と表示されれば警察がやってくる。
「予測的取り締まりプログラム」に基づいて、その人物が将来的になんらかの罪を犯すとAIが判断すれば、収容所に連行される。
それらをかいくぐり一日を無事におえると、居間に設置された政府の監視カメラが待っている。
家の中も監視されている。
ウイグル人の10人に1人は収容されたことがある。
「少数民族の居住区の一部では、全住民の最大10％が身柄を拘束されているという報告がある。ウイグル族が多数をしめるカシュガル地区だけでも、収容された住民の数は12万人に達した」
ー「収容されている人数は最低でも10万人、最大で100万人強にのぼると考えられます。」（p220）
メイセムの日常
- IDスキャンで異常がないかを毎日のように心配する
- 家でも話の内容に気をつかい、本を読めないこともある
- 3つの悪に該当する態度をとれば、収容所送り
- 地域で10人組が形成され、相互に監視しあっている
メイセムは何かの運動に参加したとか、社会的に不道徳だとされることをしたわけではない。
トルコの大学院に進学した。
トルコは中国の要求に従う義務はない。
このことが、AI判断からみれば「信用できない」に傾く。
メイセムはドライブや散歩に出かける行為そのものが心理的負担になった。
わざわざ警察に尋問を受ける危険を冒すことを、嫌うようになったから。
ウイグル人はつねに笑みを浮かべ、行儀よくふるまわねばいけなかった。
メイセム収容所に入れられる
2016年、ウイグル自治区の取り締まりが厳しくなってきた。
フェンスで囲まれる地区もでてくる。
包丁を販売するのにも購入するのにも、多大な手間とコストがかかるようになった。
新しく就任した見張り役は、「緊急事態が起きた！」といって警察活動に不備がないかを、自分で直接確かめる徹底ぶりを示す。
メイセムはある日突然、電話を受けた。
「外国からの帰国者は全員、再教育センターに行ってもらいます」（p197）
期間は一か月。
メイセムは抗議した。
メイセムが通っている大学院はトルコにあり、修士課程が残っている。
「大学院にもどらなくちゃいけないんですけど！」
再教育センターで窓の掃除をいいつけられたメイセムは、それを拒否した。
すると、すぐにセンター長が言う。
「拘留センターに連れていけ」
こうしてメイセムは「思想ウィルスに満ちた頭を浄化」するための拘留センターという名の収容所に連行された。
収容所での生活
収容所では人権がなかった。
腕をあげて立っていろ、と言われて２時間そうしていることもあった。
椅子に一日中座らされ、皮膚が真っ赤にはれたことも。
カビの生えたパンとにごった白湯を朝食に出された。
講師による洗脳。
メイセムが何か不備をおかせば、連帯責任としてみんなが何かしらの罰を受けた。
不備というのは、不満の表情をだすこと。
無表情を貫いたほうがいい、と彼女は考えた。わたしのせいでみんながまた懲罰を受けるのはいや。（p213）
講義の後はノートに７ページ、講義内容を書く。
- わたしはまちがった人生を送ってきたことを後悔しています
- 党に感謝します
- わたしがついていくのは党だけです
党を賞賛する内容を７ページ分書き込む。
収容所にはトイレやシャワー室にも監視カメラがついていた。
さらに、収容所では強制労働があり、政府はコストをかけることなく労働力を確保することができた。
メイセムは「拘留センター」からは一週間ほどで脱出し、一か月の残り期間は「再教育センター」で過ごす。
出てすぐに「ここから脱出しなければいけない」と思った。
今現在も問題は続いている
メイセムは収容所を出ると、すぐに大学院に戻る手続きをした。
あと一歩遅ければ、パスポートが没収されるところだった。
トルコにたどり着いたメイセムはふさぎ込むようになる。
「考えることができない」
何日も同じ服ですごし、時間があれば眠らないといけないと思っていた。
洗脳、強制、プライバシーのなさ。
トルコにくるときに、母親を犠牲にしてしまった。
「わたしが安全で自由な場所に行けるように、母は自分を犠牲にした。みずから危険を冒した。自分も逃げることができたのに、母は家族と残ることを決めた。」（p266）
ー亡命者は、つねに罪悪感にさいなまれています。（p268）
メイセムはトルコで結婚をして、それを母にアプリを通して伝えることができた。
微信という中国のアプリを通して。
母とやっとやり取りができたと思えば、すぐにやり取りができない期間が続く。
母の状況がまたわからなくなる。
すると、アプリを通じて見知らぬ女性から「母のためにも、いちど中国に帰ってきてはどうか？」という連絡がきた。
いたるところで監視されている。
メイセムはトルコが中国と同盟を組むことを恐れている。
同盟を組めば、身柄を引き渡されてしまうからだ。
メイセムの体験を簡単に紹介しました。
国による、ということを意識させられるね
ウイグル問題とテクノロジー問題
なぜAI監獄と呼ばれているかと言うと、最新テクノロジーが使用されているからです。
テロを防ぐ目的のため最新テクノロジーが使用される
2001年アメリカで発生した「9・11」はとても目立つテロでした。
テロは少数民族への不公平から生じることが多いことでも知られています。
中国は新疆（しんきょう）の少数民族と漢族で差をつけました。
漢族を優遇したのです。
その不満が１０年。
ウイグル自治区で大きなデモが2009年に発生。
2009年から2014年はいたるところで「銃撃戦、暗殺、刃傷沙汰、飛行機ハイジャック未遂」といったテロが多発。
国中にテロがあふれていました。
中国政府は2014年から2016年にかけて、大規模なテロ対策をほどこすことにしたのです。
テロをしないと証明することは難しい。
そのため、新しいテクノロジーを駆使していくことにしたのです。
完璧な警察国家をつくりだす3ステップ
- 敵を特定する
- 敵を監視する技術を管理する
- 国全体をパノプティコンにする
①敵を特定する
党は敵を「ウイグル人、カザフ人、他の少数民族」にしぼりました。
彼らのDNAを健康診断によって採取。
すべてのデータがPCに保存されます。
信用スコアを構築し、その民族を特定してスコアを落とすことが可能になりました。
②敵を監視する技術を管理する
AIの最新技術には欠点があります。
AIシステムの欠点
- 有色人種や女性に不利に働く傾向がある
アジア系およびアフリカ系アメリカ人男性の方が、白人男性に比べてAIに誤作動される確率が100倍ほど高い - AIは製作者の意図を反映したもので、製作者の欠点も含まれる
- データがどのように集められているかわからず、データの質がわからない
- AI自体のアルゴリズムが不透明
監視者はこのAIの欠点を強みに変えました。
技術がどう機能しているか、その詳細を隠して見えにくくすればいい
ー不確かな状況に置くことが、人々をコントロールするために有効な方法です（p41）
一般の人には理解できないツールに変えてしまいます。
監視者がAIをわからなくても、相手もわかっていないので都合がよいように使用できるのです。
③パノプティコン化
パノプティコンとは監獄のことです。
＞＞フーコーの「生の権力とは」
中央に監視塔が位置し、その周りを独房で囲います。
監視塔からは独房が丸見え。
ただし、独房からは監視塔の内部がみれません。
監視塔から見られているかもしれない、という恐怖。
その恐怖が囚人を、自分たち自身の監視者にしたてます。
自分で自分を監視するようになるのです。
「事実を軽視して感情に訴える被害妄想」をつくりだします。
実際は監視者がいないにもかかわらず、ずっと見張られているという被害妄想をかりたてるのです。
完璧な警察国家
この３つを通して、人々は何を信じればよいのかわからなくなります。
- 自分は敵とみなされている
- ルールが不規則に適応されて、何が正しいのかわからない
- 隣の人も監視員、自分自身も監視員になり、ずっとみられている
この中でシステムは、システムのみを信用するように促します。
誰もが政府に庇護を求めるように仕向けるのです。
最新テクノロジーの使用
AI監獄には最新のテクノロジーが使われています。
適応することが出来るルールが中国にあるのです。
中国で活動するインターネット企業は国内のルールにしたがわなければいけない（p70）
2011年、「微信」というメッセージングアプリが開発されました。
微信の機能は、ツイッターやフェイスブックと似た仕様になっています。
ただし、中国ではツイッターやフェイスブックが禁止されていたので、みんなが微信をやり始めました。
リリースして2年で３億人が使用。
微信は利用者の行動についての圧倒的な量の情報を、国に与えることになります。
人々は、監視のための実験台になろうとしていました（p81）
中国と各企業が結びつきます。
企業はメタデータを要求されれば中国に渡さなければいけないのです。
2014年、まだ中国は監視をしっかりさせるデータ量が足りなかったので、民間企業を通してある計画を実行しました。
購買履歴やウェブ閲覧を監視し、すべての国民の信用度をランク付けするシステムを構築したのです。
ビッグデータとAIの融合。
さらに、2018年に中国警察は「百姓安全」と呼ばれるアプリを全市民にダウンロードするように推奨しました。
このアプリは人々が不審なものを見たときに、すぐに警察に通報できるアプリ。
百姓安全は３か月の間に３万件の情報が寄せられた、と主張されるほどに広がりました。
最新テクノロジーの偏移
中国の監視システム構築。
2015-2016年
- 米企業とセンスタイム、新疆に監視技術提供
- 米中サイバー・セキュリティー協定締結
- 米大手企業、中国企業に半導体供給
- 米企業、DNA採取装置を新疆警察に販売
- 米遺伝学者と中国公安研究員、ウイグル族のDNA特定
中国国家における膨大に使える情報。
最新テクノロジー。
こうして、中国における完璧な警察国家ができあがっていきました。
ウイグル問題と新しい冷戦問題
新しい冷戦というのは、米中の技術の冷戦です。
米中の貿易戦争
中国はテロ対策に力を入れるようになりました。
しかし、実際には対策をとることでテロリズムの問題を悪化させていたのです。
その問題を解消するために、テクノロジー技術をスパイ活動によって急速に発展されます。
スパイ活動が発覚した企業や国家監視システム構築に携わった企業と、他国との関係は悪化。
2018年7月以降、中国企業のファーウェイ、メグビー、センスタイム、ハイクビションは、アメリカを含む数十カ国の政府に敵対視されるようになった。
それらの企業は、メイセムを収容所送りにした国家監視システム構築の手助けをした組織だった。（p276）
例えば、中国のトップ企業ファーウェイは、ウイグル人を認識したときに警察に警告する顔認証ソフトウェアを開発したと言われています。
中国はより多くの情報を最新技術と結びつけることができるのです。
そこに新たな技術革命といわれている5G。
5Gを使用する企業が中国政府と結びついているというデータがでてきました。
5Gネットワークにファーウェイを入れるか入れないかという各国の判断も、貿易戦争に関わってきます。
技術革新と独裁主義
イノベーションと独裁主義の結合はひどくやっかいな問題であり、その影響は中国を超えて世界に広がっている…この技術の輸出によって、中国政府の社会的・政治的統制モデルを模倣するのに必要な技術的ツールが各国に与えられることになる(p290)
治安が安定していない国は数多くあります。
中国のようにテロに悩んでいる国も多いのです。
プライバシーの危険と治安の危険をはかりにかけたときに、国家によっては治安をより重視。
中華人民共和国にとって戦略的に重要な国々ほど採用する傾向が強く、くわえて犯罪率の高い国も採用する傾向が強い（p297）
この技術を中国をモデルに採用する国がでてくることを、世界各国は懸念しています。
新たなウイグル問題の可能性があるからです。
アメリカとカナダがウイグル問題をジェノサイド認定した理由
ウイグル問題をジェノサイドに認定した理由には、貿易戦争、人権の問題などが絡んでいます。
ジェノサイド認定することで、世界各国をアメリカ側の味方にするという戦略も含まれるのです。
もしプライバシー保護の未発達な国が新技術を手に入れた場合、規制を守っている国に対して利益的な面でも大きくリードしてしまうことは目にみえています。
例えば、収容所でおこなっていた奴隷労働に恩恵をうけた企業も多くいます。
捕らえられたウイグル人の存在は、労働力を再活性化し、経済成長を助け、被収容者に規律を教え込むための中国の解決策になった。
ーオーストラリア戦略政策研究所はやがて、雇用プログラムによって派遣されたウイグル人労働者から恩恵をうけた計83社を特定した。（p223）
しかるべき抑制や注意なしにその技術を圧制的に使うことで、誰かの犠牲の元で、経済的な恩恵が得られるようになっています。
ウイグル問題をめぐる３つの側面まとめ
ウイグル問題には３つの側面があります。
- 人権問題
- テクノロジー問題
- 新しい冷戦
この３つの問題から見えてくることは、AIを制御しなければ新たなウイグル問題が続出してしまうということです。
2020年、IBMのアービンド・クリシュナCEOは顔認証技術の開発から撤退することを発表しました。
当社は、国内の法執行機関による顔認証技術の利用の可否とその方法について、いまこそ全国的な議論をはじめるタイミングだと考えます。
ーまず、とくに法執行機関で使用される場合、AIにバイアスがないかどうかを検査する必要があります。
さらにバイアス検査は、しかるべき外部機関によって検査・報告される必要があります。（p318）
国境を超えてのAI使用における議論が必要と言われています。