<img height="1" width="1" style="display:none" src="https://www.facebook.com/tr?id=145304570664993&amp;ev=PageView&amp;noscript=1">

May 12, 2022 \ Machine Learning, AI, Cloud, Natural Language Processing, NLP

GraphcoreでTwigfarmの価格と性能を向上

筆者

Minwoo Kang

韓国ソウル市を拠点とするAI翻訳のスタートアップTwigfarmにとって、バランスをとることが成功です。その壮大で重要な使命は、高精度の結果を可能な限り高速で提供できるかにかかっています。同時に、急成長企業として、運用費は慎重に管理する必要があります。

Twigfarmは最近、GPUからGraphcoreのインテリジェンスプロセッシングユニット(IPU)に移行しましたが、性能のために費用を我慢する必要はありませんでした。むしろ、IPUに切り替えることで、性能が10倍向上し、同時にコストが減るのです。

国境のないコミュニケーション

Twigfarmは2016年、実業家のSun Ho Baek氏が創業しました。AIを活用し、世界中の人と組織の言語の障壁を取り除くことを目標にしています。この展望は、Sun Ho Baek氏のソフトウェアエンジニアとしての経歴、そして本人の葛藤から生まれたものです。イスラエルとネパールで初期の長いキャリアを構築しながら、コミュニケーションがもっとスムーズであれば、どれだけの可能性を解き放つことができるかと考えました。

この認識から、Twigfarmの基盤となるテキストベースの翻訳技術、すなわち独自のハイブリッド翻訳・自然言語処理(NLP)エンジンを開発するようになりました。Twigfarmはこの6年で、この技術を複数のサービスへと変えました。具体的には、ニューラルネットワークベースの言語処理エンジンLETR。企業向けの特注B2B翻訳プラットフォームGcon Studio、ニュースレターや電子メールを翻訳するB2Cエンタープライズソリューションheybunnyです。

コストのかかるトレーニング負荷の管理

Twigfarmの製品には、数々の受賞歴、技術認証があり、業界の注目を浴び、顧客から賞賛され続けています。そのなかで、Sun Ho Baek氏は、会社の成功レベルおよび認知度と並行して、会社の運用コスト増を防ぐ必要性を強く認識し続けています。こう話します。「スタートアップは経費には特に敏感です。事業を非常に限られた資源で運営する必要があるためです。」

Twigfarmが顧客に提供するサービスの時間とコストのかかる性質から、これはとりわけ難しいことです。Twigfarmのモデルは、データの収集と前処理に加えて、顧客のフィードバックに基づいて継続的に再トレーニングする必要があります。「モデルをできるだけ早くトレーニングし、お客様に提供する必要があります。これは、トレーニングに費やす時間を最小限に抑えることを意味します。」とSun Ho Baek氏。

最近まで、TwigfarmはGPUを搭載したクラウドベースのソリューションを使用してAIモデルをトレーニングしていましたが、非常に高コストであったため、Sun Ho Baek氏はTwigfarmの製品により適した代替演算を探すようになりました。「コストが数万ドルに達したこともあり、どうすれば費用対効果の高い、より良い性能を実現できるかを模索しました。」

GPUの向こうを見渡す

Sun Ho Baek氏はクラウドベースのGPU以上の性能と効率を模索し、すぐにGraphcoreのIPUに移行しました。IPUは、効率の向上、総保有コスト(TCO)の削減、結果までの時間の短縮など、複数の問題を一度に解決するのに最適でした。IPUの競争優位性は、BERT NLPモデルの最新のMLPerf結果で見られる、IPUの優れた性能で実証されたように、NLPアプリケーションで顕著です。

ただし、Sun Ho Baek氏はこのような改善の前に、GPUからGraphcoreのIPUへの移行がシームレスで、比較的軽いレベルの技術トレーニング、コード変更、最適化を伴うことを確認する必要がありました。

そしてこの点で、Graphcoreは優れていると感じました。「他のシステムに移行する場合は、自分自身の裁量になるか、公開されている文書に沿っていくかになることが多いです。これとは対照的に、Graphcoreは関連文書と技術サポートを提供してくださいました。コード変更では、説明するだけでなく、私達と一緒にコードを詳細に調べ、私達が直面した問題を解決してくれました。」とSun Ho Baek氏。

拡大するパートナーシップ

Twigfarmは、移行をスムーズに完了することができ、2021年11月からGraphcoreのクラウドベースのIPUとPoplarソフトウェアで運用しています。

同社の事業にはすでに移行のメリットがあったと言います。「IPUは、これまでに使用した他のどのシステムよりも優れていることがわかりました。GraphcoreのIPUがあれば、コストを大幅に削減しながら、性能を10倍向上させることができるのです。」

Twigfarmは、将来的に、GraphcoreのIPU技術を使用して追加のサービスを開発する計画を立てています。このパートナーシップに明るい未来を見ています。「Graphcoreは世界的な企業であり、成長しているスタートアップです。サポートとアドバイスをいただきながら、世界的なステージへと成長できればと思っています。」とSun Ho Baek氏。

その他の投稿

×