Hatena::ブログ(Diary)

shi3zの長文日記 RSSフィード Twitter

2017-05-25

To Keras Creator François Chollet: Shall We Review Our History One More Time? 16:08

I really don’t want to get further involved with this, but it would appear that François Chollet still isn’t inclined to get his history straight. So let me make things clear here.


https://i.gyazo.com/8a42678e6f81db0d7cef130f9a466e26.png

François Chollet

After something new is invented in the West, at first Japan ignores it. A few months later, “made in japan” clones appear, and previously existing Japanese products start to imitate the Western inventions: Niconico, Mixi. But the UX of these Japanese-made clones proves awful, and the Western originals become popular in Japan anyway: YouTube, FB

11:27 – May, 15 2017


First of all, nobody was ignoring YouTube or Facebook. The thing that delayed Facebook’s release in Japan was simply that only American college students could sign up. Haven’t you ever seen “The Social Network?”


Mixi has been around since before Facebook. Apparently it was inspired by Friendster:


http://itpro.nikkeibp.co.jp/article/NEWS/20060330/233820/?ST=spleaf


However, from our perspective it looked like a revival of online communications like CompuServe and NIFTY-Serve. Google’s Orkut was the first Web-based SNS, with GREE as its dead copy. Orkut, which lacked community features, proved unpopular. Although Mixi (which did have community features for communication between personal computers) did take off, it fell on hard times not because of UX problems but because of mismanagement. It’s a complicated story that I won’t detail here, but would be glad to explain separately as desired. The point is that you can’t blame it on the user experience. Oh, and by the way, most Japanese college students aren’t using Facebook anymore.


https://i.gyazo.com/5e51203f10a03684daeb234795940747.png

François Chollet

The same is true for mobile phones. It took forever for the iPhone to take off, but now, all Japanese are using one. I suppose the same thing will happen with deep learning libraries.

11:33 – May 15, 2017


In the early 2000s, Japan’s mobile internet was the most developed anywhere in the world. In no way was the iPhone slow to take off in Japan. The very first iPhone wasn’t even sold in Japan, and yet iPhones were imported all the way from America. The iPod Touch was even jailbroke and its software used.


Apple contacted us directly to participate in its ecosystem as official app engineers. Please consider this video that I uploaded in 2007. It was featured in Engadget and Gizmodo and introduces an early game made for iPhone OS:


https://www.youtube.com/watch?v=3LdpmxHE7VU


I still can’t say whether deep learning libraries will take off like the iPhone did. At least in its current incarnation, Distributed TensorFlow is not supposed to operate on supercomputers. Caffe2 and ChainerMN are, and are very easy for universities to use.


There’s even PyTorch. No matter what you use, if you accomplish your goal that should be good enough.


Microsoft just announced worldwide support for Chainer this week, and we don’t know yet how that will turn out.


As for me, I couldn’t care less who prevails. It just means that I’ll be able to use the best tool when a victor emerges.


François Chollet

That blog is something that should only shame the author, not me. He twists the original meaning of my tweets in his writing. I have never said or thought things like “Japanese people ‘only’ rip off the Western.” This is simply a personal opinion about recent web products.

13:50 – May 23, 2017



The subject of your first statement is “Japan.” So it is the same as insulting all of Japan, including Japanese people. If you aren’t skilled at the Japanese language, perhaps you should stop posting in Japanese.


It’s been ten years since the launch of Niconico. It’s telling that he considers ten years to be “recent.”


By the way, recent popular video services in China imitate Niconico…not YouTube. Why, you ask?


Because of a good UX.


Rather than a dull play function with a comments section that doesn’t synch up with the time code, it’s a far better user experience to have viewer comments anonymously superimposed in sync with a video.


If users are leaving Niconico for YouTube, normal people would think it’s because Niconico requires registration while YouTube doesn’t…not because of the UX itself.


Niconico doesn’t suddenly introduce ads you can’t skip the way that YouTube does. So which one really delivers a better user experience?


By the way, it was I who introduced Dwango’s Nobuo Kawakami to the research at Nagoya University’s Nagao Laboratory that helped inspire Niconico’s synchronized comment features. I was a member of Dwango at the time of its founding, and went from serving as Manager of the Advanced Contents Group to Vice President of Content Development.

2017-05-24

Kerasの作者François Cholletさん、もう一回歴史の勉強をしようか 10:07

 ほんというと関わりたくないんだけど、相変わらずFrançois Cholletは歴史を正しく学んでないし学ぶ気もないようなので、ここらでハッキリさせておく。


François Chollet

西洋で新しい物が発明されると、最初日本はそれを無視する。数ヶ月後、made in japanのクローンの出現や、既存の日本製品が西洋の発明を真似し始める: ニコ動、mixi。でも結局その日本製クローンのUXが酷すぎて、西洋のオリジナルが日本でも普及する: YouTube, FB

11:27 - 2017年5月15日


まず、誰もYoutubeやFacebookを無視してない。

日本でFacebookの導入が遅れたのは、単にアメリカの大学生でないと入会できなかったからだ。映画「ソーシャル・ネットワーク」くらい見て欲しい。


mixiはFacebookより以前から存在している。元ネタはFriendsterらしい(http://itpro.nikkeibp.co.jp/article/NEWS/20060330/233820/?ST=spleaf)。とはいえこれは我々からするとパソコン通信のCompu-serveやNinfty-serveのリバイバルに見えた。Web上のSNSとしてはGoogleOrkutの方が先だが、それのデッドコピーはGREEで、コミュニティ機能がないOrkutは流行らず、パソコン通信的なコミュニティ機能を持ったmixiが流行したが、UXが最悪だったんじゃなくて経営がおかしくなっていただけ。このへんの話しはここでは書けないのでご希望なら個別に詳しくお答えします。とにかくUXのせいとは言い切れない。あと、Facebookは日本の大学生はもうほとんど誰も使ってませんよ。


François Chollet

携帯もそう。iPhoneの普及も凄く遅かった。だけど現在、日本人は皆iPhoneを使っている。深層学習ライブラリーも同じパターンになるのだろう

11:33 - 2017年5月15日


モバイルインターネットは2000年代前半では日本が世界で最も発達していた。

iPhoneの普及が日本で遅れたなんてとんでもない。そもそも最初のiPhoneは日本で販売されてないし、販売されてないのにわざわざアメリカから輸入したり、iPod touchをJail breakしたりしてまでソフトを作っていた。


僕が2007年にアップロードした動画を見て、Appleは僕らに正式なアプリ開発者としてエコシステムに参加するよう直接コンタクトをとってきたくらいだ。この動画はEngadget、Gizmodoで紹介された。iPhoneOSで造られた最初期のゲームだ。


https://www.youtube.com/watch?v=3LdpmxHE7VU


深層学習ライブラリーがiPhoneのように成功するかどうかはまだなんとも言えない。Distributed TensorFlowはスーパーコンピューターでの動作を想定していない(少なくとも今のバージョンは)。Caffe2やChainerMNは想定しているから大学などでは使いやすい。


PyTorchだってある。どれを使おうと目的が果たせればそれでいいはずだ。


Microsoftが今週Chainerをワールドワイドでサポートすると表明したばかりで、勝負はまだついてない。

ちなみに僕としてはどれが勝とうと興味はない。その瞬間で最適な道具を使うだけだ。


François Chollet

あのブログは作者のみが辱めを感じるべき代物であり、私ではありません。彼は私のツイートの本来の意味を捻じ曲げてブログを執筆しており、「日本人が西洋のパクリ"しか“しない」など私は言った事はありませんし思ったこともありません。単純に最近のウェブ製品について個人的な意見だけです。

13:50 - 2017年5月23日


あなたの最初の発言の主語は「日本」になっているので、日本人を含む日本全体が侮辱されているのと同じですが。

日本語が苦手なら敢えて日本語で呟くのはやめたらいいんじゃないですか。



ニコニコ動画がうまれてから10年になります。彼にとって10年が最近のことのように感じるのは味わい深いことです。


中国で主流の動画配信はニコ動を真似したものですね。Youtubeではありません。

どうして?


UXが良いからです。


退屈なビデオ再生機能に、時間軸と同期しないコメントが並ぶよりも、時間軸に同期したコメントを同じ時間軸で再生し、ユーザーの発言が匿名のままスーパーインポーズされるほうがユーザー体験が向上するからです。


ニコ動からYoutubeに客層が移っているということがあるとしたら、ニコ動は会員登録を必要とするクローズドな会員制であり、Youtubeはそうでないという理由の方が、UXそのものよりもずっと大きいというのが普通の人々の考えかたです。


ニコ動はYoutubeのように、唐突にスキップ不能な動画広告を挿入したりはしません。普通に考えて、どちらがユーザー体験が良いと言えるでしょうか。


僕は親切なのでもちろん英語版もご用意いたします。

オイゲンさんにNaumanniを発見された / マストドン会議3(東京)とマストドン会議4(大阪)に登壇します 06:43

「超便利な検索タブ」「オイゲンさんがナウマン発見」「マストドン会議、西へ」 (1/2) - ITmedia NEWS

http://www.itmedia.co.jp/news/articles/1705/23/news160.html


 ついにマストドンの開発者、オイゲン・ロッコさんにNaumanniが発見されたらしい。

 名誉なことだ。


 なぜだか何年かぶりかにアスキーの遠藤諭さんがやる気を出しすぎていて、三ヶ月に四回もリアルイベントを開くという。これは前代未聞のことなので、僕も仕方ないので皆勤賞をとることにした。


マストドン会議3 ― ようこそ、Mastodon への “願望” と “思想” が交わる一日へ | Peatix

http://lab-kadokawa26.peatix.com/view


マストドン会議4『地域インスタンスが、日本の経済も遊びも活性化する』関西インスタンス頂上編 | Peatix

http://osaka-mastodon.peatix.com


 マストドンの本質は分権なので、たしかに地方でやるというのはわりと理にかなっている。

 5は福岡かな。札幌もありそうだけど。


 マストドン、ブーム勃発から1.5ヶ月くらい経ってさすがに落ち着いてきたかなという感じがあるが、こういう小康状態になったときに、「単にブームに乗って始めた人(ビッグウェーブ派)」と、「ほんとうに価値を認めて毎日使うのが日課になっている人」に別れると思う。


 そういう意味では僕は後者。

 マストドンがあるとあんまり外に出歩きたくなくなる。


 マストドン上で話題になってるNetflixの番組や、ニコ生を見ている方がわざわざ外に出かけてバーなんかで人と話すよりも楽しいし落ち着く。


 今でも朝起きたら「おはどん」とTootする。そしてマストドンで知り合った人たちから「おはよう」と返される。孤独が当たり前の時代に、なんていうか人の温もりを感じられる気がする。



 まあTwitterのときもね、なんかこういう状態あったよ。ちょっとハシッこい人たちがわーっとやってきて祭り状態になって、それからとりあえず日常生活に戻っていくという。


 僕の中ではTwitterとマストドンは使うモードが違っていて、Twitterのアクティブユーザはマストドンにすぐには移行しない気がする。というのも、向こうのソーシャルグラフをマストドンで再構築するのはそれなりに時間がかかるし、同時というわけにはいかないから。ここはもっと時間をかけて移行するのかしないのか考えることになる。ただ、そもそもTwitter社が今後どうなるかわからないので、避難所としてはマストドンアリだよねとは思う。


 僕はTwitterはもうほとんど完全に一方通行の告知しかしないことにしてるので、ブログ書いたよーとかは書いても、マストドンに書くようなことは書かない。


 もうひとつの決定的な違いは、Twitterの場合、一人が1アカウントだよ、という建前がある。でもマストドンの場合、他のインスタンスにアカウントを作るのはむしろ普通になっている。自分の入りたいコミュニティで、そのコミュニティの中の顔だけを見せることができるというのは幾分気楽ではないかと思う。


 そういう意味では今足りないのはマストドンにおけるYahooというか、カテゴリごとに別れたインスタンス一覧とか、そういうのにたどり着ける方法かもしれない。


 旧来のようなひとつのインスタンスに山ほど人を集めるという価値観がマストドン(というかOStatus)の実装効率の悪さによって破壊されつつあるのはある意味で福音で、いやむしろ良いことだと思うんだよね僕は。


 マストドンがもっと普及するためには、ボタンひとつでインスタンス立ち上げられるとか、広告入る代わりに安いとか(もちろんインスタンス主が課金すれば外れるとか)、いろいろやりようはあるのではないかと思う。



 ただ、さすがにこのペースで同じようなメンツ集めて話しさせてもあんまり新しいこと起きないんじゃないかという気がしていて、そのあたり遠藤さんどーするんだろうという一抹の不安はなくはない。


 ただ、可視化はされてないけどマストドン関係の仕事の話しはひっきりなしに来ていて、実はまだ目に見えてない

人や企業がマストドンに大きな関心を寄せているというバックグラウンドがある。なんせマストドンはまだまだ入会導線がわかりにくいとか、そもそもインスタンスとは何かがわかりにくいとか、新しいものであるがゆえの伝わりにくさがあるので、そこをどう解消していくかというのは重要な関心事だ。


 ではマストドンが普及していくためにはどのような道筋があり得るか。

 そのへんの話しでもしようかなあ。

 

 

 とりあえず、今日は人工知能学会で講演するため名古屋に行く

2017-05-23

AIをとりまく状況はおもしろい 07:57

https://i.gyazo.com/dc23cd40f23bc7f91c101941dbe02164.png


 最近、テレビや映画関係の人から「AIの描写の考証をしてほしい」と依頼されることが増えた。理系が増えてきているからリアリティのある描写をしたい、ということなのかもしれない。


 脚本を渡されて「こういうことってあり得るんですか?」と聞いてくる。どのみち絵空事なんだから、そんなに真面目に考えなくてもいいと思うが、まあある程度はリアリティのあるストーリーにするにはこんな感じかなあ、という程度の感想をお伝えする。


 で、AIの面白さをすごく短く伝えることの大事さを日々痛感している。


 昨日はフジテレビのネット配信番組ホウドウキョクで、25分という短い尺の中でAIの面白さをいかに伝えるべきか考えたら、案の定詰め込みすぎてしまい物凄い早口になってしまった。でもAIの面白さは伝わってるんじゃないかと思う(伝わってるといいなあ)


 世の中には真のAI的であるものと、そうでもないものが入り乱れてる。誰も大きな声で言わないが人工知能学会ですらそうである。まあ僕はもともとアカデミズムに属しているわけではないので(いまはやや属しているが)、しがらみもなく適当に「それはインチキ」と言ってればいいというわりと気楽な立場ではある。


 日本の会社は残念ながらほとんどAIとは呼べないものをAIと呼ぶことにして名前をつけて商品化することに勤しんでいる。たぶん、そのやり方でもごまかせる相手がいるのだろうし、そういう人(会社)は技術の内容よりも誰がそれを売っているかということのほうを重要視しているのだろうからある意味でWin-Winであると言える。ただ、日本国内の資産が全く無駄なことに使われ、騙されてAIもどきを導入したみんながなんとなくAIは胡散臭くてインチキなものだという誤った失望が生まれることを考えると、あまり社会のためになっているとは言えない。


 国としては、こうしたインチキなAI商品が跳梁跋扈する状態を見逃すべきではないし、早急な対策が求められる。


 というのも、なぜこんなインチキがまかり通ってしまうのかというと、そもそもこれまでAIと呼ばれていたものは、30年間の間、ほとんど進歩らしい進歩をしなかったからだ。


 ところが全くみんな(AI研究の主流派)が無視していたところから突然、深層学習(ディープラーニング)というとんでもない成果が生まれ、それまで30年間、だらだら続けてきてあまり成果の出てこなかった人間の研究者たちの研究成果を次々と乗り越えていった。


 これにアワを食った人間の研究者たちは、慌てて「はい、こちら人工知能の専門家でございます」ととりあえず言ってみることでドサクサに紛れて予算と仕事を確保しようと画策しているである。


 残念ながら、学会にも企業にも深層学習の専門家はほとんど居ないというのが厳然たる事実であり、これは世界的に見てもあまり変わらない。だからこそ、最新の成果がGoogleFacebookといったわずかな組織からしか出てこなくて、ちょっと前まで世界の最先端を突っ走っていたように思えるAppleやMicrosoftでさえ、AIの世界では存在感が薄いのである。



 日本ではプリファードネットワークス(PFN)が深層学習の総本山という認識をみんなが概ね抱いているが、もともと彼らが本来専門としていたのは深層学習以前の機械学習であり、深層学習の経験値は実際にはそれほど高くない。これはせいぜい2,3年のアドバンテージに過ぎず、今から若くてエネルギッシュな学生ベンチャーが目指しても易易と超えてしまう可能性があるので学生諸君には頑張って欲しい。健全な競争が増えれば市場も広がるからだ。今の競争はやや不健全である。なにしろ時代遅れの前世代AIを標榜する会社とまともな深層学習をやる会社が戦わなければならないのだ。PFNとうちが、せいぜい頑張っても知れている。もっとちゃんとした会社が増える必要がある。


 

 PFNが他の会社と違うのは、たいていの機械学習研究者と異なり、深層学習の可能性を早々に受け入れ、飛び込む覚悟を決めたことにあった。深層学習そのものは2006年からあるわけで、これまで殆どの人がまるごと無視していた領域であることに変わりはない。面白い偶然だけど、僕が深層学習を本格的にやり始めた頃とPFNがChainerの開発をしていた時期は重なっており、たぶんそのタイミングで深層学習をやるかどうか経営判断できたというのが今は効いてるのだと思う。




 深層学習産業のイメージとしては、1990年代のWebだと思うのがいい。あの頃は、でかい会社よりも小さくて機動力のある会社がたくさんうまれ、いろいろな産業をWeb化していった。これから深層学習はあらゆる分野で必要になる。Webの基礎技術は、深層学習でいうフレームワークであり、昔はWebサーバーですら有料のものが少なくなかった。おっと、ブラウザもだ。しかしこれらは全てオープンソースになった。だから深層学習の分野はオープンソースが主流である。



 いろんな会社が正しい深層学習を導入せずに、いい加減で非効率的な昔ながらの人工知能技術で目眩ましをさせられ、深層学習産業そのものが成立しないことをまず危惧しなければならない。この深層学習への抵抗勢力は決して小さくないので、何度でもハッキリと言う必要がある。



 深層学習とそれ以前の人工知能のなにが違うか、Webのアナロジーで言えば、深層学習が光ファイバー回線のWebだとすると、それ以前のAIは電話回線を使った草の根BBSである。



 明日から人工知能学会の全国大会がある。今年も喋ることになっているのでこのへんの話しをすることになるだろう。

 



 AIのもうひとつの面白いポイントとしては、未だ有効な利用法があまり分かっていないということにある。Googleが計算資源を無償で開放し、フレームワークを広める裏側には、「誰でもいいからAIで儲けて見せてくれ(おれたちがあとで真似してごっそりいただくから)」という本音が見え隠れする。


 AIは究極的にいえばヒトである。それを目指しているんだから。

 

 ということは、なんでもできるが何も出来ない。Googleのように少数の天才が無数の秀才級の人間を集めた会社の場合、凡人と同等の知能のAIが何個入ったところで大勢に影響がない。要はネット企業ほど実はAIの使い所が限定されるという性質がある。


 それでもAIにはなにかある気がする、とみんなが思っていて、その有効な利用法を必死で探しているのが現状だ。


 僕らは深層学習AIを現実の業務に適用するコンサルティングを生業にしているが、個人的に今一番面白いのはこの仕事である。


 なぜならば、特定のAIの用途を限定してしまうと、たとえば自動運転なら自動運転、金融なら金融でいいんだけど、AIの用途が限定されると、実は相対的にAIの出番が少なくなってしまってAIの開発以外のところにエネルギーを傾けなければならなくなるのに対し、AI導入コンサルティングの場合はAIの開発のみに集中でき、そのぶん、純粋にAIに対する理解が進み、たくさんの知見が得られるのだ。


 Naumanniのクソリプ発見AIやNSFW判別AIは副産物だが、迷惑メールフィルタ(という少し前の世代のAI技術)がそれなりに機能しているように、こうしたAIもそれなりに機能するはずだ。



 なぜネット企業がAIを上手く活用できないかという話しに一つ付け加えると、彼らは学習用のデータを持っていないのだ。ネットにある情報ならいくらでも集めることが出来るが、現実の世界の情報はほとんど持っていない。もちろんうなるほどの札束でデータを買うことはできるだろうが、「何を買えばいいのか」ということすらわからないというのが現状だと思う。ここにワンチャンあるのではないかと個人的には思っている。


 ちなみにPFNの海野さんが書いた深層学習による自然言語処理、発売前重版決定だとのことです。おめでとうございます。僕も買いました。

2017-05-22

なぜ英語ができる(と思い込んでる)日本人はウザいのか 08:43

 先日の記事について、海外留学の経験がある某氏から「なんだこの英語は。こんな英語使うならgoogle翻訳の方がマシ。やるならプロを雇え」みたいなことを言われた。


 彼が指摘したポイントは「study his history」というところで、これは英語の慣用句で「お前が当然知っておくべき○○」を「study your ○○」と表現するのだが、彼はそれを知らなかったらしい。


 ちなみに先日の英文は全てアメリカ人映画監督が訳していて、彼は先月、ニューヨークで監督賞、脚本賞を含む8冠を達成したばかり。いわば英語の達人である。


 僕だったら、たとえこの慣用句を知っていたとしても、怖くて「study his history」とか書けない。


 大方、「清水が英文を書いたと言うからどれ、添削してやるか」と上から目線で見に来たら、初歩的なミス(に見える構文)を見つけて鬼の首を取ったような気分になったのだろう。ショボい。


 まず第一に、オレがそんなミスを犯すわけ無いだろ。バカにするのもいい加減にしろ。おまえよりずっと日常的に英語に触れとるわ


 ちなみに彼が学生時代に翻訳したWindows95TCP/IP関連のマニュアルがクソわかりづらいと、彼をよく知る美女がいつも愚痴っていたことは付け加えておく。


 彼に限らず、ちょっと留学した程度で自分を英語のオーソリティだと勘違いしてる人は少なくない。東京にはそういうタイプの人が山ほどいる。彼ら彼女らは、自分がごく常識的な慣用句も知らないくせにギャーギャー騒ぐ。カネを払って学生の身分でちょっとばかしアメリカの大学のお客さんになった人が、同じ21歳でアメリカの会社で上級エンジニアとして月に何百万か稼いでいた僕より英語ができると考えるのは、ちょっと思い上がり過ぎじゃないだろうか。


 なんなら今でも僕は海外で講演しているし、2011年3月11日にはインチキ井口とともに英語でプレゼンして寄付金を集めたこともある。今年も8月には真冬のメルボルンで開かれる国際学会で講演しなければならない。


 単に海外留学経験がある人が帰国子女ぶるのもよくわからない。高校生までアメリカに居た人は帰国子女かもしれないが、その人が使える英語は女子高生英語だ。女子高生レベルの日本語しか使えない日本人に日本語の誤りを指摘されたら、「バーカバーカ」ってなるでしょ。ちょっと留学しただけってのは女子大生レベル。時間が止まってるのよ。



 僕は彼らほど自分で自分を賢いと思ってないので、自分の英語力が極めてテキトーであやふやなものか自覚している。従って、正式な英文は全てネイティブの人に委ねることにしている。


 デーブ・スペクターがいくら日本語がうまくても、デーブ・スペクターにオレの日本語を添削されたら「おまえなんなんだ」って思うでしょ。こちとらプロの物書きだぞ、と。



 とにかく日本はちょっと英語をかじったくらいでチョーシにのってる人が多すぎる。完全に人工言語であるプログラミング言語と違い、自然言語を使いこなすのは至難の業だ。AIが人間になれないのと、日本人がネイティブ英語を喋れないのは似ている。


 母語は、後天的に獲得するのが極めて難しいのだ。その人の思考の根本だからだ。


 僕は英語を勉強することは人生の時間の無駄だと思っている。まあ完全に無駄ではないが、古文漢文と同程度の重要度だと思っている。



 なんでかっていうと、僕は日常的に英語で英語が母語ではない人と会話するが、そうすると、その人が英語を使いこなしてないことがわかるからだ。めちゃくちゃ流暢に喋っていたとしても、その人は英語で思考したりはしていない。母語で考えたことを英語に治すときにかならずニュアンスが削ぎ落とされる。その削ぎ落とされたニュアンスこそが重要な部分なのに。


 すると単純な思考と単純な会話しかできなくなる。重要なのは、英語で表現することではなく、意思疎通することだ。こんな当たり前のことを、英語偏重の人は理解できてない。たぶん母語でもどうせろくなことを考えていないのだろう。


 いつも言っていることだが、ソニーもトヨタも任天堂も、一度も英語を公用語化することなく世界企業になった。英語が大事だと思う人たちはその意味をもっと真剣に考えたほうがいいと思う。

会話もメールも 英語は3語で伝わります

会話もメールも 英語は3語で伝わります

 

2017-05-19

Why Keras Creator François Chollet Should Study His History: The Foolishness of Criticizing Whole Countries and Peoples 15:17

To state upfront: Keras is superb. Its merits rank it up there with gcc and Emacs.

Consider the way Stallman grew jealous of Torvalds and gradually lost his personal respectability, even as his software remained first rate. In the same way, no matter what type of person François Chollet might turn out to be…a slightly uppity young talent, or even a fool…Keras’s luster would not diminish.

But his knowledge of history seems to be lacking. Let me explain myself using the Japanese language’s singular and rich expressive power.

Chollet criticizes Japanese people for plagiarizing Western ideas. I don’t know what country he hails from, but can we really say that “Western ideas” have no Eastern influence?

Take microprocessors as an example. Today’s young people take the thing called a CPU for granted. Well, this CPU was first installed into a semiconductor by the Japanese. It was made by Japanese to fill a demand in the Japanese market.

If someone using a computer is going to criticize the contributions of the Japanese, it is only reasonably to expect them to know this. And the list of Japanese inventions copied by foreign companies…portable radios, portable music players, car navigation systems, mobile contents, and so on…is not a short one. Not to mention the fact that Japan plays a central role in the business of CDs, Blu-rays, and DVDs.

Let’s take the United States of America, which has produced more important inventions than anywhere else in the world. Americans will forever be known as the people who created and used the atomic bomb and put men on the Moon.

But who thought up the theory of relativity, without which there would be no atomic bomb? Albert Einstein, of course…a German. And what about the rocket technology that allowed NASA to make a manned moon landing? Well, that would be Wernher von Braun, a one-time member of the Nazi Party and SS. And the Nazis, of course, are criticized by Americans as the ultimate evil!

Now then, who invented the computer, around which Silicon Valley’s entire economy revolves? An American would probably say Mauchly and Eckert of ENIAC. But von Neumann, who theorized the calculator, was German, and the inspiration for his idea came from the Czech Gödel. And the Turing machine, credited as the basis for modern computers, was created by the Englishman Alan Turing.

No one would argue that Western science was blossoming during this period. But consider the fact that Japan isolated itself for 400 years. And think of the enormity of culture that this tiny little Asian island nurtured during that time: everything from the Bushido warrior code to a world-class cuisine.

And let us not forget that Japan constructed the world’s biggest warship.

After World War II, if anything Japan became even more driven then before. Transistors, one of the most important inventions of the 20th century, may have been invented by an American…but leave it to a tiny little Japanese company called Sony to put high frequency transistors into application, and to Toyota to create the world’s most cost-effective, high-performance automobile.

Wait, but who invented cars? Well, that would be Karl Benz…a German. The American Henry Ford put them in mass production, and Toyota further refined the production process.

The thing that America does best is franchises. Convenience stores were thought up by John Jefferson Green, the Texan who gave us 7-Eleven.

Japan’s Ito-Yokado acquired a license and attempted a Japanese expansion, but the American manual proved unhelpful. Ito-Yokado had no choice but to create its own manual and strengthen the franchise model for the Japanese market. As it happened, around this time the American 7-Eleven was facing bankruptcy. Ito-Yokado stepped in, sponsoring the struggling American company as a subsidiary, and got it back on its feet.

In other words, it was the Japanese who truly perfected the convenience store as a business.

Despite its ruination in the war, Japan became an economic giant with incredible speed. Huge economic growth always means a shortage of something: calculating resources. At the time, this was people.

Unlike most Americans who can’t even remember their multiplication tables, Japanese were always skilled at the abacus. People tend to forget the significant impact of the abacus on the East’s economic growth. Both boys and girls took courses in abacus calculation. The best among them could do five-digit multiplication in their heads and calculate cube roots.

But Japan’s economic growth was such that even this was not enough. An electronic form of calculation became necessary. And so, Japanese were the first to create consumer electronic calculators. In the subsequent “calculator war,” Japan’s premier companies sparred fiercely. Numerous new variants were born: electrical relay, vacuum, semiconductors using transistors. Japan became the world’s foremost electronics market.

Around this time Masatoshi Shima, an engineer at one of these companies, hit upon a revolutionary idea: if you could make calculators with transistors, surely you could also make them with integrated circuits. He took his idea to Intel, which at the time only made memory with semiconductors, and requested the world’s first IC with calculation circuits installed.

Intel had seen similar ideas but they had all proven financially or technically difficult. But a tiny little Japanese company offered up the investment that finally made it possible. Intel’s Federico Faggin, Ted Hoff, and Stanley Mazor joined with Shima and completed the world’s first stored program microprocessor. This was Intel’s 4004 system, which in 8 bits became the 8080.

Federico Faggin had only just joined the company when Shima arrived, but nonetheless attempted to claim the credit for the microprocessor design. But the design came from Shima, and Intel’s CEO Robert Noyce knew it. He designated Shima as the chief designer for the 8080.

After Shima and Faggin reconciled, they went on to found Zilog together and create the 20th century’s best-selling microprocessor, the Z80.

The game industry began with an American, Nolan Bushnell, but his early efforts failed. It was the Japanese companies Nintendo and Sega that perfected the game industry. Sega benefited from American investment, but was primarily a Japanese company. And then Sony got involved.

If you consider it from the perspective of the game industry, Microsoft’s Xbox is a copy of the Japanese game platform model. I can speak to this from personal experience from my days at Microsoft, when I was asked to “study” the Japanese game industry…i.e., steal its best ideas.

And the 20th century’s most advanced mobile platform, i-mode, is a Japanese creation. Just as Ford brought America to the forefront of the automobile industry, so too has Japan reached the cutting edge of mobile content.

In the 21st century Apple borrowed the Walkman concept and created the iPod, and mobile phone companies around the world plagiarized the i-mode business model only to meet with failure. The only one that survived and succeeded was Apple’s iPhone.

Incidentally, the Yagi antenna, used on televisions around the world, was an idea by the Japanese Professor Yagi that the American Army plagiarized. Ferrari and Maserati’s designer Pininfarina had a Japanese man, Ken Okuyama, as its director, and BMW’s designs are Japanese as well.

We can credit VAIO’s Teiyu Goto for transforming computers from dull beige to vibrant grey. Compare the time of VAIO’s release and the Apple PowerBook’s transformation to silver.

Why is the Xbox control a boomerang shape? Well, Nintendo’s Gunpei Yokoi invented the plus-shaped key, and the first person who thought of putting a grip design on controllers was again Teiyo Goto of Sony.

Now then, if you think that Japan is just stealing other countries’ ideas, here’s something curious to consider.

A while back Apple sued Motorola for exclusive rights to multitouch touchscreen features. Seeking some form of defense, Motorola’s lawyers poured over academic literature worldwide. Enter University of Tokyo Professor and Sony Computer Science Laboratories Deputy Director Jun Rekimoto, who brought to light a multitouch demo from long before the days of Apple or Jeff Han. This was recognized by American courts as an example of prior usage, and as a result, Android users all over the world now enjoy multitouch features.

Consider the irony that François Chollet draws his salary from Google…a company that without the inventiveness and selfless contributions of the Japanese he criticizes would not have Android multitouch features, a key component of its business.

In Japan, we would call this biting the hand that feeds you.

And oh, by the way…the convolutional neural network that serves as a key component of Keras’ deep learning is built upon Fukushima’s neocognitron.

Consider this PDF:

http://www.cs.nyu.edu/~yann/talks/lecun-ranzato-icml2013.pdf

So, are Japanese people merely stealing Western ideas? It seems to me that instead we take the best ideas of both East and West, evolve them into new and unique forms, and then share them with the world.

I am not going to hold up Japanese as models of virtue and go so far as to credit them for the creation of the microprocessor. Most Japanese themselves don’t know who was responsible. We instinctively know the folly of single-minded nationalism.

Perhaps it is in the nature of the Japanese personality to do things like quietly churn out Anime and Manga after receiving inspiration and paying respects to Alphonse Mucha and Walt Disney.

And so it is unbelievably foolish to lump together and criticize an entire race or country.

Neurons and perceptrons are not the same thing. Neurons evolve through mutual exchange of concepts. This is how the human brain works.

And it is also how science works.

マストドンが急成長でき、心地よいのは不完全さのおかげかもしれない 07:22

 マストドンの設計はスケールしないという悪口をよく言われる。

 スケールしない、つまり大規模化できるような構造になっていないというのだ。


 しかし現実はどうだろう。マストドンはブレイクからわずか一ヶ月で70万ユーザに迫る勢いの伸び率である。

 かつてここまでのスピードで増加したプラットフォームは見たことがない。


https://i.gyazo.com/dd2acd156292822c3bb7abb97df68139.png


 普通はブレイクの過程で、サーバーが落ちたり、増強したりを繰り返すのでこんなにスムーズにユーザーが単調増加していくことはない。


 いまは比較的なだらかなカーブになっているが、さすがにイノベーター層には知れ渡り、第一次ブームが落ち着いているからだろう。


 ユーザー数の増加は落ち着いて来たけれども、発言数は伸び続けている。


https://i.gyazo.com/7de803979e451d01c1892f3139ab6e5b.png

https://i.gyazo.com/529e9f6905fc29a64d77f9638f526577.png


 これは実際にユーザーが定着しているということを意味する。

 平均一人あたりトゥート数が伸びているということは、ユーザは毎日コンスタントにつぶやいているということだ。


 マストドンのいいところは、ある意味で不完全性にあると思う。


 不完全性というのは、たとえば連合タイムラインは、決して世の中の全てのインスタンスと連合しているわけではないということ。


 また、他のインスタンスと連合していても、そのインスタンスの全てのユーザと連合しているわけでもないということ。


 これは非効率的ではあるがこの不完全さによってうまれる連合タイムラインの偏りは、インスタンスの個性が出るようになっている設計だ。


 ひとつのインスタンスが効率的に運営できないという不完全さも重要で、これにより、少数クラスタやお一人様インスタンスが増加した。


 また、これも重要なことだが、お気に入り(ファボ)とブースト(Twitterでいうリツイート)の数がよくわからないようになっている。


 あるアカウントの正確なフォロワーの数も、やっぱりよくわからない。

 まあたぶん、その人のインスタンスまで行って確認すれば正確なフォロワー数がわかるんだろうけど、Twitterと違ってブーストされた数とか星がついた数とかが可視化されない。


 ただわかるのは、「フォロワーのだれそれがブーストしました」とか「星をつけました」ということで、これもリアルタイムな通知としてどんどん流れていってしまうので蓄積されない。


 Twitterが気持ち悪くなった原因のひとつとして「リツイートが100を超えたら○○します」みたいなことを言う人が目立ってきてからだ。リツイート数やファボ数が上がっていくのは承認欲求を満たし、それがパクツイ(パクリTweet)や炎上を産んでいった。


 マストドンの場合、ファボやブーストはどんどん流れ去っていくので数字を追いかけるという感覚がない。


 おはどん、とかくだらない書き込みに対してリアルタイムに星がつく。この程度がほどよい快感であり、もちろん個別のTootのページに行けばファボ数やブースト数を確認できるが、今のところわざわざ見に行く人はいないのではないか。


 インターネットにはマストドンと同様に不完全であり、故に強力なものがある。それは今でも不完全で非効率的だがきちんと機能している。Webだ。


 Webの仕様は基本的にやっつけであり、やっつけからスタートしたので今でもその頃の不完全な仕様が一部残っている。


 たとえばタグを使うマークアップ言語でありながらタグの対応関係がおかしくてもそのまま表示してしまうブラウザが少なくない。

 

 W3Cが基本的な仕様を決めながら、できるだけ完全に近づけるように努力をしているが、おなじWebKitから派生したSafariChromeでさえ仕様が微妙に異なる。不完全だ。


 でも、だからこそ複数の企業や組織が知恵を絞ってそれぞれの創意工夫が入り込む余地がある。不完全だからこそ完全を目指す余地があるのだ。


 これがTwitterやFacebookの場合はどうだろう。

 TwitterやFacebookは完璧とは程遠いが、選択肢がほとんど唯一それしかないため、不満を持ってもそれを改善する権利はそれぞれを支配する企業一社に限られる。


 Webやマストドンはオープンソースであり、誰でも自由に改造を加えることが出来る。


 マストドンとOStatusのアーキテクチャが非効率的だと主張する人はもっと遥かに早く改善すべきものがあることを忘れている。SMTPだ。


 なぜかメールは未だにバイナリファイルを直接送れない。バイナリを一度文字に変換して送って、受取先で展開しなければならない。だからメールで大容量のデータを送るのは非効率的になる。その上、CCやBCCで送るときも同じデータを複数の送付先に送ることになる。とても効率的とは言えない。


 メールには問題が多い。けどみんな使っている。

 マストドンには問題が多い。けど今日も起きると「おはドン」とTootする。星がつく。一日が始まる。


 不完全であること。これがマストドンの持つ本質的な価値なのではないか

 人は完成したものよりも不完全なものにより惹かれる傾向がある。心理学で言うツァイガルニク効果だ。


 TwitterやFacebookも、もっといえばiPhoneも、登場した瞬間は不完全で、そこが魅力的だった。あとはいかに不完全であり続けるかが、実はそのアーキテクチャなりカルチャーなりの伸びしろなのかもしれない。


 Webのように不完全なものは、常に変化の中心にあり、いろいろなプレイヤーが入れ替わり立ち替わり持論や自説を試すことになる。AppleやMicrosoft、Googleのような大企業もWebブラウザを作るし、一方でVivaldiのような挑戦者もいて、Apacheで支配的になったかに思われたサーバーの世界にもnginxのような挑戦者が登場するし、bottleやRoRのようなフレームワークが次々と生まれる。Reactのようなフロントエンドのフレームワークも同様だ。進化の激しい世界は飛び込みがいがあるし、やりがいがある。


 Twitterをビジネスにどう活用するかというのはTwitterの登場時には盛んに議論されたが、今はそんな話を好んでする人はいない。Twitter社がTwitterクライアント開発会社を買収したときに、「ああ、これが公式クライアントになるのか」ということでアプリ開発会社が競争意欲をなくしたからだ。


 Twitterが登場した直後、Twitter社はスターだった。新しい世界を切り拓くリーダーのように見えた。しかし結局のところ、実際に彼らが作ったのは古臭い王国だった。


 Wikipediaは定期的に寄付を募らなければ維持できない。Wikipediaでは論争が絶えない。結局、Wikipediaは「共通認識」という幻想を議論によって着地させなければならない。


 仮にマストドンのようにWikipediaを複数の組織が運営できて、ゆるく連携できるとしたら、そのほうがいいかもしれない。トラフィックの問題もフレイムの問題も解決できる。


 これが非中央集権化であり、マストドンが見せてくれた未来の姿でもある。