GPU

機械学習・ディープラーニング GPUとCPUの速度の違いはどのくらいなのか? Windows、Ubuntu双方で検証

機械学習、ディープラーニングで学習および推論を行う時、特に学習にかかる時間はとても長いです。1週間PCを回しっぱなしなんて事も。。。。 そこで学習速度の向上のためにGPUを導入します。 GPUは、超大量のコア数(計算する人の人数とでも思ってください)があるのが特徴。一つ一つの計算能力ではCPU(いわゆる普通のコンピュータの頭脳です)に劣るのですが、CPUではせいぜい10〜20コアくらいのところ数千というコア数で計算できます。そのため同じ計算を一斉に行う機械学習の様な処理ではCPUよりもはるかに速い計算処理を行う事が可能です。 では実際にどのくらい速いのでしょうか? 今回機械学習・ディープラーニングの標準GPUと言えるNvidiaのGPUを取り上げ、Windows、Ubuntu 双方について検証します。(ちなみにMACはNvidiaのGPUの搭載が大人の事情で現在できませんので検証できません、、、) 使用機種WindowsとUbuntuのデュアルブート OS:Windows10 構成CPU:Intel Core i9-9990KGPU:Nvidia Geforce RTX2080tiドライバー:430.86CUDA:10.2CuDNN:7.5 ちなみに上図ではGPUで学習中の使用状況を表示しています。計算には56%、メモリは10GBほど使用しているのがみて取れます。 まずはKerasを使用し、バックエンドでTensorFlowを動かしています。この手の検証で使用される代表手法と言えるmnist(画像認識の学習)ファイルを使用して検証してみましょう。 GPUとCPUの学習速度検証 Windows編 mnistをCPUで 1epoch37秒ほどです。12 epoch学習させていますので7分25秒ほどです。 Windows編 mnistをGPUで 1 epoch3.5秒ほど。12 epochでも45.5秒です。約10倍という速度で学習できています。 Windows編 CPUで音楽データを500曲学習 今度は音楽データを学習させました。音楽データは全て8小節の単音データ。TensorFlowを使用しています。結果は上図の通り。10回の学習x10で100回平均14秒x10で2分20秒ほどです。 Windows編 GPUで音楽データを500曲学習 こちらも10回の学習x10で1

機械学習・ディープラーニング GPUとCPUの速度の違いはどのくらいなのか? Windows、Ubuntu双方で検証 Read Post »

DELLが機械学習専用の新サーバーEMC DSS 8440を日本でも発売開始 Tesla V100を最大10機搭載可能で価格は1940万円から。機械学習専用プロセッサーIPUにも注目!

DELLとEMCジャパンが機械学習専用の新サーバーEMC DSS 8440を日本でも発売開始いたしました。 英語版サイトhttps://blog.dellemc.com/en-us/dell-emc-dss-8440-dynamic-machine-learning-server/ NVIDIA Tesla V100を最大10基搭載可能。12コアのインテルXeon Silver 4116 プロセッサー。メモリーは32GB。SSDは480GB。Tesla V100を4機搭載の最小構成税別定価は1940万7219円から。
販売初年度に100台の出荷を見込んでいるとの事です。 単純に機械学習向けのワークステーション的な考えでいくとライバルとなりそうなDGX-1にやや劣っている様に思えます。 DGX-1の過去記事はこちらhttps://canplay-music.com/2019/04/02/nvidia-gdx/ DGX-1はTesla V100 8基搭載Dual 20-Core Intel Xeon E5-2698 v4 2.2GHzメモリー 512GB価格は1652万円〜 あらゆる項目で上回っています。しかしこちらはあくまでもワークステーション。DELL EMC DSS 8440については、サーバーとしての信頼性のために室温35度でも安定動作する冷却性能や、英Graphcoreで開発が進められているディープラーニングプロセッサー IPU(Intelligent Processing Unit)が最大8基搭載(12月頃開始予定)などよりサーバー向けに強化されている点を考慮し判断すべきでしょう。 IPUにも注目そして我々としてはIPUに非常に注目しております。 GoogleのTPUや(イマイチ進歩しませんが、、、)Appleのニューラルエンジンなど、ディープラーニング、機械学習専用のプロセッサーは、今後非常に注目すべき分野で今年後半から来年あたりのトレンドの一つになるかもしれません。もちろんこのIPUに注目しております。 搭載機であるこのEMC DSS 8440の評価や価値もIPUの性能によってまた変わってくるのかもしれません。

DELLが機械学習専用の新サーバーEMC DSS 8440を日本でも発売開始 Tesla V100を最大10機搭載可能で価格は1940万円から。機械学習専用プロセッサーIPUにも注目! Read Post »

NVIDIAがクリエーター向けのプラットフォーム「NVIDIA Studio」を公開 モバイルディープラーニング環境の有力選択肢となるか?

NVIDIAが、高性能 PC を使ってオンラインおよびスタジオでクリエイティブ作業に携わっている、全世界の 4,000 万人のクリエイターの能力と信頼性を大幅に向上させるためのプラットフォーム、「NVIDIA Studio」 を公開しました。 NVIDIAの公式アナウンスページ NVIDIA Studio は、コンシューマー向けGPU最高峰、RTX GPU と、専用の SDK、 Studio ドライバーで構成された NVIDIA Studio Stack が組み合わされます。 このプラットフォームに先立ち、17種 の RTX Studio ノートPCが、世界の大手 PC メーカー 7 社より発表されました。これらのノートPCすべてが、新しい RTX Studio バッジを得るために必要なハードウェアおよびソフトウェアの要件を満たしており、クリエイターは、自らのクリエイティブ ワークフローにぴったりなノートPCを簡単に識別することが出来る様になったとの事です。 NVIDIA のGeForce ソフトウェア / テクノロジ担当ゼネラルマネージャーのジェイソン ポール (Jason Paul) は、次のように述べています。「NVIDIA Studio を RTX GPU と組み合わせることにより、クリエイターの増え続ける要求を完全に満たす、スタジオグレードのソフトウェアを使って、リアルタイム レイ トレーシング、AI 処理ならびに高解像度ビデオの編集ができるようになります。新しい RTX Studio ノートPCは、出先でもデスクトップクラスの性能を必要とするクリエイターにうってつけのツールとなります」 我々としてはAI処理という部分がとても気になる、かつ期待する部分です。 RTX STUDIO ノートPCは7社から17種発売RTX STUDIO ノートPCは、以下の7社から17種発売 されるとの事です。(2019年6月以降順次)acerASUSDELL(Alienware)GIGABYTEhpmsiRAZER個人的にはデスクトップを所有しているAlienwareのクリエーターエディションが気になるところです。 いくつかの機種については製品をウェブサイトで確認する事ができます。 acer ConceptDRAZER BLADE STUDIO EDITION クリエーター

NVIDIAがクリエーター向けのプラットフォーム「NVIDIA Studio」を公開 モバイルディープラーニング環境の有力選択肢となるか? Read Post »

NVIDIA Control Panelが見つからない場合の解決方法 | ディープラーニング用に新規にGPUを導入した方へ

GPUでディープラーニングを行っているWindowsユーザーの方向けの記事です。 Nvidia コントロールパネルがない、、、、 近年ディープラーニング実践のために新規にNvidiaのGPUを導入する方も多いと思います。その際、ディープラーニングの実践には必要ないですがせっかく高価なGPUなのでグラフィックの方の設定も色々と行ってみたいと考えますよね。高度なマルチディスプレーの設定や、G-syncの設定など。 ところがその設定を行うためのNvidia Control Panelがない、、、、見つからない、、、、という事、多いです。 ネットで色々調べてみても、困っている方非常に多く、多くの質問が寄せられたり、回答している記事もたくさんあります。しかし解決策はドライバーのアップデートをすれば良いというものばかり。確かにその方法で解決する場合もありますが、それでも解決しない場合、もかなりあり、その場合はどうやってインストールすれば良いのか?全くその情報がない状況です。 解決方法は簡単です! しかし、実はこれは簡単です。Microsoft Storeからダウンロードしてインストール。これだけです。 Microsoft Store Nvidia Control Panel入手ページ 何故この様な基本的かつ簡単な方法が周知されていないのか不思議なのですが、困っている方、簡単に解決しますので是非この方法をご活用ください。 記事投稿日:2019/5/16

NVIDIA Control Panelが見つからない場合の解決方法 | ディープラーニング用に新規にGPUを導入した方へ Read Post »