ディープラーニングでの学習はとても時間がかかります。
１週間PCを回しっぱなし！、、、なんて事も普通にあります。
実際に業務で使用、もしくは個人であっても満足いく結果を求めるのであればやはりGPUの導入は必須ではないでしょうか？
では実際にGPUを導入しようとする場合、今どのGPUを選べば良いのでしょうか？
結論から言うと
Nvidia Geforce RTX 2080 Tiがおすすめです
ディープラーニング用のWorkstationを製造販売しているLambdaのベンチテストを元に何故RTX 2080 Tiがおすすめなのか見てきましょう。
比較テストに使用されたのは
・Nvidia Geforce RTX 2080 Ti: $1,199.00 （日本円で約１３万円）
・Nvidia Geforce RTX 2080: $799.00 （日本円で約９万円）
・Nvidia Titan RTX: $2,499.00 （日本円で約２７万円）
・Nvidia Titan V: $2,999.00 （日本円で約３３万円）
・Nvidia Tesla V100 (32 GB): ~$8,200.00 （日本円で約９０万円）
・Nvidia Geforce GTX 1080 Ti: $699.00 （日本円で約８万円）
・Nvidia Titan Xp: $1,200.00 （日本円で約１３万円）
テストは全て
TensorFlow 1.12
CUDA 10.0.130
cuDNN 7.4.1
環境で行われています。
では実験結果を
FP32 1GPU でニューラルネットワークの学習に使用
全て比較モデルに対しRTX 2080 Tiが何%の速度なのかを表記しています。
100%なら同性能。200%なら倍の速度、50%なら半分の速度です。
・137% RTX 2080
・135% GTX 1080 Ti
・122% Titan XP
・96% Titan V
・87% Titan RTX
・73% Tesla V100 (32 GB)
RTX 2080tiは、つい最近までディープラーニング用のコンシューマー向けグラフィックボードとしては最強とされたTitan XPを22%も上回っています。
FP16 1GPU でニューラルネットワークの学習に使用
比較の数値はFP32と同様でRTX2080tiを100%としての数値です。
・172% GTX 1080 Ti
・159% Titan XP
・132% RTX 2080
・81% Titan V
・71% Titan RTX
・55% Tesla V100 (32 GB)
さすがにTitan VやTitan RTXには劣りますが、価格が２～３分の１という事を考えればむしろ評価できるのではないでしょうか？
コストパフォーマンスの点でもRTX 2080 Tiはベストと言えるでしょう。
RTX2080tiはディープラーニングを本格的に行うならおすすめです
RTX2080tiは本当に高性能ではありますが、初心者にはむしろオーバースペックともなるのでご自身の目的と価格とで判断を
初めて導入する場合はよりコストパフォーマンス重視で2080やさらに安い1080や2070でも十分かもしれません。
1080や2070なら2080tiの半額以下で購入できるでしょう。
それでもCPUに比べれば十分すぎる速さです！
ご自身の実行規模を考慮した上でRTX 2080 Tiか、下位モデルかを価格で判断するのが良いかもしれません。