ミス・技術・世界

技術屋として３５年位仕事をしている。
ミスの影響について分析した事を書く。


１．ミスの発生確率
１）単純モデル
ミスは必ず起こる。様々な要因で。
人間的な単純ミス、ハード的な部品故障、設計時の勘違い、
複数の会社の作る部品の納品違い、設計時と製造時の担当部署で
コミニュケーション不足でのカン違い。
とにかく間違える可能性は無数にある。
そしてシステムが複雑、大規模になればなるほど、その間違える
可能性は飛躍的に増大する。

例えばスイッチ、電池、ＬＥＤ、配線、筐体からなるライトを
モデルとして考えてみよう。部品要素は５つだ。

設計フェーズ
世界中に１０種類の電池がありそのうち１種類以外だと動かない。
それが５部品あるから100,000種類のうち正しい部品以外を
選ぶと正常動作しない。確率10万分の１だ。
それを検証するには人間が行うが、それには応じた時間がかかる。

製造フェーズ
故障率が１％だとすると部品５個のライトは大体５％は不良になる。

２）複雑化した時
さて、システムが複雑化するとミスの可能性が増大する。
携帯、金融システム、国家システム。

例えば携帯で１０００個の部品が使われていたら、上記で言うと
正常動作する確率は10の１０００乗分の１。ほぼ異常動作。
そして故障率はほぼ１００％だ。
もちろん事前にミスを防ぐシステムはあるし、自動修復する
技術があるからシステムが増えて悪い方向はかりでは無い。
しかし、逆に部品内部でのトランジスタレベルで考えると
１０００個とかではなく、数千万個のレベルになるし、
故障自動修復するシステムがあっても、それ自体もミスする
可能性はある。
だから、モデル化する事自体が困難だが、システムが複雑化すると
飛躍的にミスの発生確率が上がる事は間違いない。

そして、システムが巨大化し、金融システム、国家システム、
となると１０の数百乗レベルでミスは発生する。

２．ミスの与える影響
ミスの影響は大きく３種類ある。
１００万個の場所のうち、１個が壊れたとかミスしていたとしても、
その場所により、システムに与える影響が大きく変わってくる。

１）その場所で現象が発見でき、原因も修復も容易で影響が限定的
　ライトの電池が逆に入っていて、正常な方向にしたら直った、とか。

２）システム全体への影響が少ないので現象がなかなか発見されないが
　壊滅的にはならない。
　例えばＰＣに入っていた音楽の曲名が文字化けして一部読めない、とか。

３）システムへの影響が甚大で壊滅的。トラブルを予測できない、
　原因の特定が困難か、原因は分かっても直せない。

　携帯のWifiが繋がらない。
　ファストフードでのツイッターテロ。
　消えた年金。
　公害。
　津波時の電源喪失による原発メルトダウン。
　戦争の発生。　少子化による経済の停滞。
　環境汚染物質による生物への影響。
　

３．世界はどう対処しているのか？いたのか？
１）従来
　複雑なシステムの原因を特定、修復するのは、最初に作るより
　難しい。だから正しく機能している（と思われる）
　別のシステムと交換する、というざっくりした手段の方が
　有効、というか、コストエフェクティブになる。

　携帯が壊れた→直すより買い換える
　コンビニがヤバイ→別のコンビニに行け
　国が壊れた→難民となって他の国になだれ込む。

２）問題点
　複数無いものはそもそも選べない

　個人はかけがえの無い個人。
　お母さんは沢山いるが、特定の人のお母さんは１人。
　代わりの機能をさせる事はできるかもしれないが、
　それは機能互換性でしかない。

　人間の考えたシステムは効率化を考慮して一極集中するのが普通。
　市場が成熟すると、経営リソースを集中した方が強いので
　企業が寡占状態になり、選ぶ余地が減ってくる。
　アマゾン、グーグル、セブンイレブン。
　一極集中の弊害はミスが発生した時に代替がなくなってしまう。
　
　地球。グローバリゼーションが進み、地球が一つとなるとそれ以外を選べない

いいね！のテクノロジと民主主義

（０）まとめ
ネットは双方向のテクノロジである。ネット以前は直接的民主主義を
機能させる事は不可能だった。しかし、ネット以後はそれが可能になってしまった。
ネット以前は不可能だった、少数の民意をロス無く集約する事が可能になった。

意見が集約されると、人々の認知が変わる。認知が変われば行動が変わる。
社会を動かすのは人々の力である。
それにより、社会の構造も変化していくのではないか。

しかし、その際に、ネット以前の方式の民主主義（多数決の原則）をそのまま
当てはめて社会を運用するのは難しいのではないか？

結論は全くまとまっていないし、全くの問題提起であるが、以下に
実例を上げてみる。


（１）なぜ音楽聴き放題サービスのアーティストへの支払いはこんなにも少額なのか？
http://gigazine.net/news/20150320-why-spotify-pay-little/


音楽のストリーミングサービス
大手聴き放題サービスで、あるインディーズバンドの曲で支払われた金額は
月額０．９円との事。１回のではなく月額。

聴き放題サービスなので、その中で聞かれた回数の比率に応じて支払われるので、
よほど受け入れられる曲、聞かれる曲で無いとペイされない。
それはわかる。

これは、広い意味での民意ではないか。民主主義ではないか？従来型の民主主義ではないか。

ギガジンでは
「音楽などの芸術作品がすぐに評価されるとは限らず、また、人気のある作品が優れているとは限らないことも明らかです。優れた作品が多様性の中から生まれてくるという芸術作品の特性を考えたときに、公平ではあるものの露骨な「弱肉強食の世界」が広がる音楽聴き放題サービスの仕組みの中で、優れたアーティストが育っていくということは極めて難しいのかもしれません。」
と結んでいる。

それもわかる。

（２）「自分は犠牲になりたくない」自動運転車の抱える倫理ジレンマ、意見調査でも明らかに

http://www.gizmodo.jp/2016/06/moral_dilemma_of_autonomous_ca.html

自動運転カーが実用化されつつある。しかし自動運転カーをどう動かす？という
局面に立つと非常に難しい。

つまり、運転中に１人と３人とどちらかぶつかる必要があった時、自動運転カーは
どちらにハンドルを切るべきか。
プログラムだからどちらにもできる。それは自動車を作る側の意思で何にでもなる。
ではどうすべきか？１人を殺すのと３人を殺すのは？

また、運転者１人が死ぬのと歩行者１０人が死ぬのをどちらを選択するのか？
オーナーは運転者が死ぬ方自動車を買うか？
売れない自動車は普及しない。消費行動はある意味での民主主義である。

自動運転カーの実用化の障害は技術ではなく、むしろ倫理だと思われる。
しかも、その倫理も民意で変わる。民意も技術の進化で変わる。
歩行者より運転者を優先する自動運転カーが売れたとする。
その事実が社会に公表されたら、その製造・販売会社は社会に受け入れられるのか？

（３）検索エンジンの歴史からみるGoogle検索アルゴリズムの変遷
http://joesbar.blog.jp/archives/1031100211.html

私の実感としては、googleの検索技術、ページランク登場以前は検索エンジンの
精度は非常に低いものだった。これがgoogle登場以後、検索が「使い物になる」
という感じになった、と記憶している。

これは基本概念としてのページランク技術、つまり
「人々から良いと評価される物は良い」
というアイデアが良かったのだと思う。
まさに、これは民意。直接型民主主義である。

しかし、これに対して技術で結果を変えるような技術も色々出てきた。

いいね、されるように見せかけるSEO技術。

多数決の技術だから、多数を抽出するテクノロジにより、色々な結論が

導かれてしまう。

選挙区を変えて選挙結果が変わる、ゲリマンダーという施策と同じ。