4月12日から18日までの1週間に、アマゾン・ドットコム（Amazon.com）で検索が多かったトップ10の検索語は、トイレットペーパー、フェイスマスク、手指消毒剤、ペーパータオル、除菌消臭スプレー、クロロックス（Clorox）除菌シート、マスク、除菌剤、防菌マスク、N95マスクだった。人々は単に検索しただけでなく、購入もしていた。しかも大量に、だ。マスクを探す人のほとんどは結局、アマゾン・ナンバーワン・ベストセラーの「フェイス・マスク 50枚入り」を購入した。
新型コロナウイルス感染症（COVID-19）が発生し、人々はこれまでに買ったことがないようなものを買い始めた。その転換は急だった。アマゾンのトップ10の常連である携帯ケースや携帯充電器、レゴは、ほんの2、3日でベストセラーから外れてしまった。アマゾンの出品業者向けアルゴリズム広告を専門にしているコンサルティング会社のノズル（Nozzle、本社ロンドン）は、突然の変化をシンプルなグラフで表した。
2月の終わり、各国のアマゾンのトップ10の検索語が新型コロナウイルス感染症に関連する言葉で埋まるまでには、1週間もかからなかった。人々が買い求めたものでパンデミックの広がりを追うことができる。新型コロナウイルス感染症に関連する検索品目は、最初にイタリアでピークに達し、その後にスペイン、フランス、カナダ、米国と続いた。英国とドイツはやや遅れた。「5日間の信じられないような変化です」。ノズルのラエル・クライン最高経営責任者（CEO）は述べる。その波及効果は小売のサプライチェーン全般に及んでいる。
人工知能（AI）もその影響を受けて、在庫管理、不正検出、マーケティングなどの背後で動作しているアルゴリズムにちょっとした問題が起きている。日常的な人間の振る舞いに基づいて訓練された機械学習モデルの中には、「日常」が変化してしまった現在、破綻をきたしているものもある。
状況がどのくらい悪化しているかは、誰に聞くかによって違う。世界的なAIコンサルティング企業の1つであるパクテラ・エッジによると、「自動制御は大混乱に陥っている」という。ある人たちは、なんとか持ちこたえている自動化システムを注意深く監視し、必要な時は手動で修正をしている状態だと説明する。
はっきりしているのは、今回のパンデミックによって、人々の生活がAIといかに密接に絡み合っているかが明らかになったということだ。人々の行動の変化がAIの動作を変え、AIの動作の変化は人々の行動を変えるという繊細な共依存が露わになった。このことはまた、自動化されたシステムへの人間の介入が依然として重要であることを想起させるものだ。「このような異常な状況下では、座して放っておくことなど決してできません」とクラインCEOはいう。
機械学習モデルは変化に反応するよう作られている。しかし、また、ほとんどのモデルは脆弱でもある。入力されたデータが、訓練を受けたデータとあまりにも違う場合はうまく動かなくなる。パクテラ・エッジのグローバル副社長であるラジーブ・シャルマは、いったん構築したAIシステムを放っておいて構わないと考えるのは間違いだという。「AIは生きている、呼吸するエンジンなのです」。
シャルマ副社長はうまく機能しないAIに手を焼いている複数の企業と話をしている。インドの小売業者にソースや香辛料を供給するある企業は、大量注文により予測アルゴリズムが破綻してしまったため、自動在庫管理システムの修正を依頼してきたという。「AIはこのような注文の急増については訓練されたことがないので、システムの調子が狂ってしまったのです」。
別のある企業は、AIを使ってニュース記事に対する心情を評価し、その結果に基づいて日々の投資を提案している。しかし、現在のニュースはいつもより憂鬱なものが多く、助言も非常にゆがんだものになりそうだという。ある大手ストリーミング配信会社では、コンテンツに飢えた視聴者が一気に加入して、レコメンド・アルゴリズムに問題が起きているという。
モデルに関するこれらの問題の多くは、機械学習システムを購入しても、それを維持するのに必要なノウハウを社内に保有していない企業が増えていることに起因している。モデルを再訓練するには、人間の専門家による介入が必要な場合もある。
現在の危機は、訓練セットに含まれているまったくありきたりな最悪のシナリオよりも、事態が悪化する可能性があるということを示している。シャルマ副社長は、過去数年の浮沈についてだけでなく、1930年代の大恐慌や1987年のブラックマンデー株価大暴落、2007年から2008年の金融危機など異常な出来事も用いてAIを訓練すべきだと考えている。「今回のようなパンデミックは、より良い機械学習モデルを構築する絶好のきっかけとなるでしょう」（シャルマ副社長）。
とはいえ、すべてに対して備えることなどできない。機械学習システムは一般に、予想しないものに出会うと問題が起こるものだ、と指摘するのはフィーチャースペース（Featurespace）の創業者であるデビッド・エクセルだ。フィーチャースペースはAIを使用してクレジットカードの詐欺検知を手がける、行動分析企業だ。意外かもしれないが、フィーチャースペースのAIはそれほどの打撃は受けてない。人々はなお以前と同じようにアマゾンで商品を購入し、ネットフリックスに加入しているが、高価な品物を買ったり、新たな場所で過ごしたりして疑念を起こさせるような行動はしていない。「人々の消費行動には、彼らの古い習慣が縮約されています」とエクセルはいう。
フィーチャースペースのエンジニアは、園芸用品や電動工具を購入する人々の急増について調整を加えればいいだけだという。これらは、詐欺検出アルゴリズムが気づく可能性のある中間の価格帯における変則的な購入だ。「見落としは確かにもっとあると思います。世界は変わってしまい、データも変化しましたから」（エクセル）。
語調を適切にする
ロンドンを拠点とするAI関連企業であるフレイジー（Phrasee）でも、人の操作が必要になっている。フレイジーは自然言語処理や機械学習を使用し、顧客向けに電子メール・マーケティングの広告文案やフェイスブック広告を生成している。語調を適切に調整することも仕事の一部だ。フレイジーのAIは、考えれる多くの語句を生成し、ニューラルネットワークにかけて、最善のものを選び出す。しかし、自然言語生成は、間違いが多い場合もあるので、フレイジーでは常にAIに何が入出力されているかを人間がチェックしている。
新型コロナウイルス感染症が猛威を振るった時、フレイジーは通常よりもっと気をつけるべきかもしれないと気づき、フィルターで排除する言葉を追加し始めた。「伝播する（going viral）」などの特定の語句を禁止し、「パーティ着」など自粛すべき活動に関連する言葉も使わない。あまりにも幸福、あるいはあまりにも警戒心を抱かせると解釈されるような絵文字や、「OMG（Oh, My God：なんてこった）」、「準備する」「買いだめする」「覚悟する」など不安をあおるような言葉も除外している。「人々は、マーケティングにより人々が不安や恐怖を抱かないことを望んでいます。このお買い得品は品切れ間近だとか言ってプレッシャーを与えるようなことは望まれていません」と、フレイジーのパリー・マルムCEOは述べる。
だが、小売業界の全体において、アマゾンに対抗できる業者はいない。アマゾンではもっとも繊細な、舞台裏の調整がいくつかなされている。アマゾンとアマゾンが支援する250万のサードパーティの出品業者が需要を満たそうと奮闘する中で、負荷の分散に役立つようにアルゴリズムに微調整が加えられているのだ。
アマゾンの出品業者のほとんどは、注文処理の完了をアマゾンに頼っている。出品業者は品物をアマゾンの倉庫に保管し、アマゾンがすべてのロジスティクスを担当し、家庭への配送や返品処理をする。アマゾンは、同社が注文処理を完了する出品業者を消費者に推奨する。たとえば、ニンテンドースイッチなど、特定の商品を検索すると、おなじみの「カートに入れる」ボタンの横の、最上部に現れる検索結果は、アマゾンのロジスティクスを利用しない出品業者よりも、利用する出品業者による出品物が優先される。
しかし、クラインCEOによると、この2、3週間でアマゾンはその方針を転換してしまったという。アマゾンの倉庫への要求を緩めるために、現在、アルゴリズムは配送を自社で手掛ける出品業者を推進しているようだ。
変動の激しい市場
この種の調整は人間の介入なしには難しいだろう。「状況はとても不安定です」とクラインCEOはいう。「先週はトイレットペーパー用に最適化しようとしたのに、今週は誰もがパズルやジム用品を買いたがっています」。
アマゾンがアルゴリズムに加えた微調整は、出品業者がオンライン広告にどれだけ費用をかけるか決めるのに使うアルゴリズムに連鎖反応を起こす。広告付きのWebページは、そのページをユーザーが開くたびに、超高速のオークションが開かれ、自動化された入札者の間で誰が各広告枠を満たすかが決められている。広告主が広告を出すために支払う金額はこれらのアルゴリズムが決めるが、それは多くの変数に左右される。しかし、最終的な決断は、ページの閲覧者が広告主にとってどれくらいの価値があるかという予測に基づいてなされる。顧客の行動を予測する方法は多数あり、過去の購入データだけでなく、広告会社が顧客のオンラインでの活動を基に位置付けた区分けなどもある。
しかしクラインCEOによると、現在、広告をクリックした人が商品を買うかどうかを予測するための最良の変数は、出品業者が示す配送にかかる日数だという。そのためノズルは顧客に、アルゴリズムの調整の際にはこのことを考慮するようにと話している。たとえば、競争相手よりも速く配送できないと思うなら、広告オークションで相手よりも高い値をつける価値はないかもしれない。一方、競争相手が在庫切れだと知っていれば、相手は入札しないと踏んで安い値をつけられる。
こうしたことはすべて、事態をひたすら監視しているチームにだけ可能となると、クラインCEOはいう。現在の状況は、すべての自動化システムはひとりでに動くのだと思っていた多くの人々の目を開かせるだろうと同CEOは考える。「世界で起こっていることをアルゴリズム上で起こっていることに関連づけられるデータ・サイエンスのチームが必要です。アルゴリズムだけではどうしても取りこぼしが出ます」（クラインCEO）。
すべてが繋がり、パンデミックの影響が至る所に広ることで、通常時には隠されていた仕組みが表面化してきている。現在の事態にもし光明を求めるのであれば、今こそ、新たに剥き出しなったシステムを吟味し、どうすればもっとうまく設計できるか、もっと回復力を持たせられるかを検討するときだ。機械が信頼されるためには、私たちは機械を見守る必要がある。
（関連記事：新型コロナウイルス感染症に関する記事一覧）
- 人気の記事ランキング
-
- We’re not going back to normal 「新型コロナ後」の世界は どう変化するか？
- How coronavirus is transforming online dating and sex 新型コロナで変わる、「出会い」と「セックス」の形
- Here’s how long the coronavirus can live in the air and on packages 新型コロナはダンボールに1日残存、吊革も感染ルートか
- The coronavirus test that might exempt you from social distancing—if you pass 新型コロナ「抗体検査」で 外出自粛から開放される？
- The biggest questions our readers have about coronavirus Q＆A：新型コロナウイルス感染症についていま知っておきたいこと
"まだ" - Google ニュース
May 14, 2020 at 07:20AM
https://ift.tt/2YZOxXm
Our weird behavior during the pandemic is screwing with AI models - MITテクノロジーレビュー
"まだ" - Google ニュース
https://ift.tt/2tm7XIq
Shoes Man Tutorial
Pos News Update
Meme Update
Korean Entertainment News
Japan News Update
Bagikan Berita Ini
0 Response to "Our weird behavior during the pandemic is screwing with AI models - MITテクノロジーレビュー"
Post a Comment