実用的なAIのアイデア

私たちのブログから

ビジネス AI を活用するチーム向けの製品アップデート、実用的なガイド、明確な分析。

117 記事

ページ 620

ジェミニ1.5フラッシュ vs GPT-4o:GPT-4oに対するグーグルの対応?
カテゴリーなし

ジェミニ1.5フラッシュ vs GPT-4o:GPT-4oに対するグーグルの対応?

AI競争は激化し、ハイテク業界の大手企業同士のキャッチボールになっている。 グーグルI/Oの直前にGPT-4oが発表されたのは偶然ではない。 GPT-4oのマルチモーダリティ、正確にはオムニモーダリティにおける驚異的な能力は、ジェネレーティブAIコンペティションに大きなインパクトを与えた。 しかし、グーグルは決して手をこまねいているわけではない。 Google I/O期間中、GeminiとGemmaの新モデルが発表された。 発表されたすべてのモデルの中で、ジェミニ1.5フラッシュは最もインパクトのあるモデルとして際立っている。 このブログでは、ジェミニ1.5フラッシュの最大の特徴を探り、ジェミニ1.5プロとジェミニ1.5フラッシュ対GPT-4oを比較し、どちらが優れているかを判断する。 ジェミニ1.5フラッシュとGPT-4oの比較 グーグルが発表したベンチマークスコアによると、ジェミニ1.5フラッシュは、グーグルが発表した他のすべてのLLMと比較して、オーディオで優れた性能を発揮し、他のベンチマークでは、現行モデルのジェミニ1.5プロ(2024年2月)と同等である。 LLMの性能を評価するのにベンチマークに完全に頼ることはお勧めできないが、性能の差やマイナーアップグレードを定量化するのには役立つ。 部屋の中の象は、ジェミニ1.5フラッシュのコストである。 GPT-4oに比べ、ジェミニ1.5フラッシュははるかに手頃な価格だ。 コンテキスト・ウィンドウ Gemini 1.5 Proと同様に、Flashには100万トークンのコンテキストウィンドウが搭載されている。これはOpenAIのどのモデルよりも多く、プロダクショングレードのLLMとしては最大級のコンテキストウィンドウである。 コンテキストウィンドウを大きくすることで、より多くのデータを理解することができ、チャンクサイズを大きくすることで、大きな知識ベースを持つユースケースのためのRAG(Retrieval-Augmented Generation)のようなサードパーティ技術を向上させることができる。 さらに、より大きなコンテキストウィンドウは、より多くのテキストを生成することができ、記事、電子メール、プレスリリースを書くようなシナリオで役立ちます。 マルチモーダリティ ジェミニ1.5フラッシュはマルチモーダルだ。 マルチモダリティは、音声、ビデオ、文書などの形で文脈を入力することを可能にする。 マルチモーダリティを持つLLMはより汎用性が高く、前処理を必要としない生成AIのより多くの応用への扉を開く。 「Gemini 1.5モデルは、非常に長い文脈を扱うために構築されており、少なくとも10Mトークンまでの細かい情報を想起し、推論する能力を持つ。このスケールは、現代の大規模言語モデル(LLM)の中でも前例がなく、ドキュメントのコレクション全体、複数時間のビデオ、ほぼ5日分の音声を含む、長い形式の混合モダリティ入力の処理を可能にする。”- ディープマインド・レポート ダッバス=ヒンディー語で列車の客車。 マルチモーダリティと多言語パフォーマンスの実証。 また、マルチモダリティを持つことで、LLMを他の専門サービスの代用として使うこともできる。 例えば。 OCRまたはウェブスクレイピング。 ウェブページからデータを簡単にスクレイピングし、変換します。 スピード ジェミニ1.5フラッシュは、その名の通り、レスポンスタイムの点で他のモデルより優位に立つように設計されている。 前述のウェブスクレイピングの例では、レスポンスタイムに約2.5秒の差があり、これはほぼ40%高速であるため、Gemini 1.5 Flashは、オートメーション用途や低レイテンシを必要とするユースケースに適した選択肢となる。 ジェミニ1.5フラッシュの興味深い使用例 ビデオの要約 ジェミニ1.5プロのビデオ理解は、AIで最も過小評価されているものだ。 50年代には、スポーツ界で最も象徴的な瞬間の11分のYoutubeビデオ(~175kトークン)を「見て」、(私の知る限り)18の瞬間を完璧にリストアップすることができた。 こんなにいいビデオAIは他にない!pic.twitter.com/LaVGR3ATfU– ディーディー (@deedydas)April 5, 2024 ビデオを使ってコードを書く これは衝撃的だ᤯。 Geminiに1.5Flashで録画した私の買い物のビデオを渡すと、Seleniumコードを5秒で表示してくれた。 これは多くのことを変えることができるpic.twitter.com/Ojm6aueLe7– Min Choi (@minchoi)2024年5月18日 ゲームプレイの自動化… Read more »

記事を読む
GPT-4o
カテゴリーなし

GPT-4o:OpenAIが最新言語モデルを公開、ユーザーは無料で利用可能

ソーシャルメディアやその他のフォーラムで、OpenAIが私たちのために何を用意しているのかについて多くの憶測が飛び交っていたが、昨日、OpenAIはついに、これまでで最新かつ最も強力なLLMであるGPT-4o(’o’はomniの意)を公開した。 GPT-4oの発表イベントを見逃した方のために、GPT-4oの能力と提供する機能について説明しよう。 強化されたオーディオ、テキスト、視覚機能 GPT-4ターボは強力なモデルだが、1つ欠点がある。 GPT-3.5ターボと比較すると、GPT-4ターボはまだかなり遅い。 GPT-4oはこの欠点に対処し、GPT-4ターボより2倍速い。 これにより、音声、テキスト、視覚からのデータの統合を含む、より広範なユースケースが広がり、マルチモーダルからオムニモーダルへと一歩前進する。 マルチモーダルとオムニモーダルの主な違いは、オムニモーダルでは3つのソースをシームレスに並行運用できることだ。 また、これらの機能強化により、音声変調、皮肉を理解する能力、自然な会話能力を向上させた音声を生成できるようになった。 ChatGPTユーザーは、価格を下げて無料でご利用いただけます。 GPT-4oは従来のGPT-4ターボより効率的で高速であるが、GPT-4ターボの半分の価格(API)であるため、GPT-4oは5.00米ドル/1Mインプットトークン、15.00米ドル/1Mアウトプットトークンとなる。 より良い価格設定により、コンテキストのウィンドウは128kトークンとなり、知識のカットオフは2023年10月となった。 GPT-4oはすべてのChatGPTユーザーが無料で利用できます(ChatGPT PlusユーザーはGPT-4oの上限が5倍になります)。 これと並行して、オープンAIはChatGPTデスクトップアプリも発表した。このアプリでは、ユーザーはGPT-4oの視覚機能を利用して、スクリーンに表示されるコンテンツを読み解くことができる。 ユーザーはデスクトップアプリを使ってChatGPTと話すこともできる。 GPT-4oデモ OpenAIによると、GPT-4oへのアクセスは今後数週間かけて段階的に展開され、ChatGPT Plusのユーザーは優先的かつ早期にアクセスできるようになるという。 このモデルの真の可能性を理解するのは、今後数週間のうちにアクセスできるようになってからだ。 エキサイティングな時間が待っている!

記事を読む
グロックとラマ3:ゲームを変えるデュオ
カテゴリーなし

グロックとラマ3:ゲームを変えるデュオ

数カ月前、「Groq」という名の新会社が突如として現れ、AI業界で画期的な進歩を遂げた。 LPUは、LLM、特にLlama、Mixtral、GemmaのようなオープンソースのLLMの推論エンジンとして、開発者がLPUにアクセスするためのプラットフォームを提供しました。 このブログでは、Groqの特徴を探り、LPUの背後にある驚異を掘り下げてみよう。 Groqとは? “GroqはGenAIの推論速度の標準を設定する使命を担っており、リアルタイムのAIアプリケーションの実現を今日から支援しています。”- Groqウェブサイト GroqはGPTやGeminiのようにLLMを開発する会社ではない。 その代わりにGroqは、これらの大規模な言語モデルの基盤、つまりそれらが動作するハードウェアを強化することに重点を置いている。 推論エンジン」の役割を果たす。 現在、市場にあるほとんどのLLMは、プライベートサーバーやクラウド上に配置された従来のGPUを利用している。 これらのGPUは、Nvidiaのような会社から供給される高価で強力なものですが、依然として伝統的なGPUアーキテクチャに依存しており、LLM推論には最適ではないかもしれません(しかし、強力であることに変わりはなく、モデルのトレーニングには適しています)。 Groqが提供する推論エンジンは、LPU(言語処理ユニット)上で動作する。 LPUとは何ですか? 言語処理ユニットはLLMのために特別に設計されたチップで、CPUとGPUを組み合わせた独自のアーキテクチャで構築されており、LLM向けのAIソリューションのペース、予測可能性、パフォーマンス、精度を一変させる。 LPUシステムの主な特徴。 クレジットGroq LPUシステムは、グラフィックプロセッサ(GPU)と同等かそれ以上の計算能力を持ち、1単語あたりの計算時間を短縮することで、より高速なテキストシーケンスの生成を可能にします。 Groqのウェブサイトに掲載されているLPU推論エンジンの特徴: 卓越したシーケンシャル性能 シングル・コア・アーキテクチャ 大規模展開でも維持される同期ネットワーキング >50B LLMの自動コンパイル機能 インスタント・メモリー・アクセス 低い精度レベルでも維持される高い精度 Groqが提供するサービス GroqCloudクラウド上のLPU GroqRack:最大64個のチップを相互接続できる42Uラック GroqNode:8台のGroqCard™アクセラレータを相互接続した4Uラック対応スケーラブル・コンピューティング・システム GroqCard:標準PCIe Gen 4×16フォームファクタのシングルチップで、手間のかからないサーバー統合を実現 「AIとは全く異なる種類のタスクを行うために設計されたCPUや、偶然AIのようなことを行うためにCPUをベースに設計されたGPUや、AIに適したものにするためにGPUを改良したTPUとは異なり、Groqは一から、第一原理から、AIのためのコンピューターシステムなのです」ダニエル・ウォーフィールド(データサイエンスに向けて LPUがGPU、TPU、CPUとどのように異なるかについては、ダニエル・ウォーフィールド(Daniel Warfield)氏がTowards Data Scienceに寄稿した包括的な記事を読むことをお勧めします。 Groqは何のためにあるのか? LLMは非常に強力で、非構造化データの解析から猫のかわいさに関する質問への回答まで、幅広いタスクをこなすことができる。 しかし、現在のところ、その主な欠点は応答時間にある。 応答時間の遅さは、バックエンドプロセスでLLMを使用する際に大きなレイテンシーにつながる。 例えば、データベースからデータをフェッチし、JSONフォーマットで表示するのは、データを変換するためにLLMを通すよりも、従来のロジックを使った方がはるかに速い。 しかし、LLMの利点は、データの例外を理解し処理する能力にある。 Groqが提供する驚異的な推論速度により、LLMのこの欠点は大幅に軽減される。 LPUを使えば、オープンソースのモデルをより安価に導入でき、レスポンスも速くなる。 Groqのラマ3 数週間前、メタ社は、すでにパワフルで非常に高性能なオープンソースのLLM-Llama 3の最新版を発表した。 スピード、データ理解力、トークン生成における典型的な強化に加えて、2つの重要な改善が目立つ: Llama 2の7倍のデータセットと4倍のコードで学習。 コンテキストの長さを2倍の8,000トークンに。 Llama 2はすでに手ごわいオープンソースLLMだったが、これら2つのアップデートにより、Llama 3の性能は大幅に上昇すると予想される。… Read more »

記事を読む
2024年の無料オープンソースLLMトップ5
カテゴリーなし

2024年の無料オープンソースLLMトップ5

LLMは今やどこにでもあり、紹介するまでもない。 技術職であろうとなかろうと、日常的に何らかの形でLLMに遭遇しているか、現在利用している可能性はある。 現在最も著名なLLMには、OpenAIのGPT、AnthropicのClaude、GoogleのGeminiなどがある。 しかし、これらの一般的なLLMは、抽象的あるいはブラックボックス的なシステムとして運用されることが多く、データのプライバシーや透明性に関する懸念が生じる。 このような問題に対処するため、オープンソースのLLMがいくつか提供されており、ユーザーは安心してプライベートマシンやサーバーにLLMを導入することができる。 オープンソースとは、ソースコードを自由に閲覧、変更、配布できる状態で配布されているソフトウェアや製品のことを指す。 このアクセシビリティによって、ユーザーはソフトウェアを理解し、向上させ、開発に貢献することができる。 現在利用可能なオープンソースのLLMの中で最も優れたものをいくつか紹介しよう: ラマ2 Llama 2は、Meta社によって開発されたオープンソースのLLMで、商用および研究用に無料で提供されている。 ラマ2のモデルは2兆個のトークンで学習され、ラマ1の2倍のコンテキストの長さを誇る。 モデルのパラメータは、テキストを理解する能力に直接影響し、より大きなモデルは、サイズとリソース要件の増加の代償として、より良いパフォーマンスを提供する。 バリエーションあり:7B、13B、70Bパラメータ コンテキストウィンドウ4096トークン 対応言語英語に最適 ミクストラル 8x7B Mistral AIが開発したMixtral 8x7Bは、総パラメータ46.7Bを含むLLMである。 その大きさにもかかわらず、3分の1の大きさのモデルと同程度の推論スピードとコストを維持している。 このデコーダのみのTransformer Mixture of Experts(MoE)モデルは、特定のベンチマークにおいてLLama 2とGPT-3.5を大幅に上回る。 利用可能なバリエーション:小型、小型、中型、大型(コストパフォーマンスの高いものから高性能なものまでランク付けされている) コンテクスト・ウィンドウ32000トークン(Mistral Largeの場合) 対応言語英語, フランス語, スペイン語, ドイツ語, イタリア語 (Mistral Largeの場合) ファルコン アブダビのテクノロジー・イノベーション・インスティテュート(TII)が開発したファルコンも、オープンソースの代表的なLLMである。 ファルコン40Bは、発売後2ヶ月間、Hugging Faceのオープンソース大規模言語モデル(LLM)のリーダーボードで1位を維持しました。 180B型では、TIIはモデルの知識とデータ理解能力をさらに強化した。 ファルコン180Bは、3.5兆個のトークンで訓練された超強力な言語モデルです。 利用可能なバリエーション:ファルコン40Bおよびファルコン180B コンテキストウィンドウ4096トークン 対応言語英語、ドイツ語、スペイン語、フランス語、イタリア語、ポルトガル語、ポーランド語、オランダ語、ルーマニア語、チェコ語、スウェーデン語に限定対応。 ブルーム BLOOMはビッグサイエンス社が開発した自己回帰型大規模言語モデル(LLM)である。 176Bのパラメータで訓練されたBLOOMは、膨大なテキストデータと産業規模の計算リソースを用いて、プロンプトからテキストの続きを生成することに優れている。 利用可能なバリエーション:ブルーム-560M、ブルーム-1B1、ブルーム-1B7、ブルーム-3B、ブルーム-7B1、ブルーム176B コンテキストウィンドウ2048トークン 対応言語46の自然言語(データ量はさまざま、英語の30%からChi Tumbukaの0.00002%まで) ジェマ Gemmaは、Geminiの成功に続く、グーグルの最新鋭のオープンLLMである。… Read more »

記事を読む
ChatGPTキラー? ジェミニ1.5がグーグルのAIの未来に意味するもの
カテゴリーなし

ChatGPTキラー? ジェミニ1.5がグーグルのAIの未来に意味するもの

グーグル対オープンAI:グーグルの勝利か? AIハイプ・トレインのバルドで的外れな成功を収めたグーグルは、最近、最新のAI製品ジェミニを発表した。 この立ち上げの一環として、バードはジェミニに改名し、新たにジェミニ・プロLLMを組み込んだ。 この変化の程度を把握するために、さらに掘り下げてみよう。 ジェミニAIとは? Geminiは、LaMDAとPaLMに続くGoogleの最新の大規模言語モデル(LLM)である。 ジェミニは前モデルとは異なり、テキスト、画像、音声、コードを理解できるマルチモーダル対応で、理解力と推論能力が強化されている。 ジェミニAIのバリエーション ジェミニAIは、3つのラージ言語モデルで構成されている: Gemini Nano:オンデバイスの効率性を高めるために最適化され、個人のデバイスに直接、迅速なAIソリューションを提供します。 ジェミニ・プロ多用途でスケーラブルなモデルで、堅牢なパフォーマンスで多様なタスクに取り組むことができる。 Geminiチャットインターフェイスの無料版でご利用いただけます。 ジェミニ・ウルトラ:ジェミニ・シリーズの最高峰で、複雑な問題解決を支援し、AI能力の最前線を進化させる。 Google One AI プレミアムプラン加入者限定。 Geminiモデルは、そのサイズと構成に応じて、TPUv5eとTPUv4を使ってトレーニングされた。 トレーニング・ジェミニ・ウルトラは、グーグルが複数のデータセンターに所有する大規模なTPUv4アクセラレータ群を使用した。 これは、インフラストラクチャーに新たな課題を突きつけていた以前のフラッグシップモデルPaLM-2よりも規模が大幅に拡大したことを意味する。 ジェミニと他のLLMとの比較 テキストの理解 イメージ理解 詳しくはこちら 双子座のメリット 1.すべてのGoogle Appsとのシームレスな統合 Geminiは現在、マップ、YouTube、Gmailなどを含むすべてのGoogle Appsとシームレスに統合されています。 特定のアプリに問い合わせるには、アプリ名の前に’@’を付け、その後に問い合わせを続けるだけです。 ChatGPTでもGPTやプラグインを使って同様の統合が可能ですが、Geminiのネイティブ統合と同じレベルのシームレスさは提供できないかもしれません。 検索エンジン技術におけるグーグルの有名な専門知識は、間違いなくジェミニのウェブブラウジング能力を向上させる。 検索アルゴリズムとインデックス作成における基礎的な強みを活用し、Geminiはユーザーにシームレスで効率的なブラウジング体験を提供する。 2.マルチモーダル機能 Geminiは現在、画像理解を含むマルチモーダル機能をGeminiチャットインターフェースに追加料金なしで提供しています。 テスト時の性能はまずまずだったが、GPT-4Vの精度には及ばないかもしれない。 とはいえ、無料なのだから文句は言えないだろう。 ;)ジェミニ・ウルトラがGPT-4Vを上回る可能性がある。 3.趣味と学生への無料アクセス この分野に飛び込もうとしているが、コスト面でGPT APIへのアクセスに制約があるLLM開発者のために、GoogleはGemini Pro 1.0 APIへの無料アクセスを提供している。 これを使えば、無料のウェブベースの開発者ツールであるGoogle AI Studioで、1分間に最大60回のクエリーを行うことができる。 Google AI Studioでは、プロンプトを素早く開発し、アプリ開発のためのAPIキーを取得することができる。 GoogleアカウントでGoogle AI Studioにサインインすることで、この無料枠を利用することができます。 LLMの旅をスタートさせ、エンベッディング、ベクターデータベース、セマンティック検索などを探求する絶好の機会だ。… Read more »

記事を読む
プライベートクラウド用のラグ
アーティフィシャル・インテリジェンス

プライベート・クラウド向けRAG:どのように機能するのか?

プライベート・クラウドがどのようにすべての情報を管理し、賢い意思決定をしているのか不思議に思ったことはないだろうか。 そこでRAG(Retrieval-Augmented Generation)の出番だ。 これは、プライベートクラウドが適切な情報を見つけ、そこから有用なものを生成するのを助ける、超スマートなツールだ。 このブログでは、RAGがプライベート・クラウドでどのように魔法をかけるか、簡単なツールと巧妙なトリックを使って、すべてをよりスムーズにより良くする方法について紹介する。 飛び込む。 RAGを理解する:RAGとは何か? 検索補強世代(RAG)は、自然言語処理(NLP)や情報検索システムで使われる最先端技術である。 検索と生成という2つの基本的なプロセスを組み合わせたものだ。 検索:RAGの検索プロセスでは、ドキュメント・リポジトリ、データベース、APIなど、さまざまな外部ソースから関連データを取得する。 この外部データは多様で、さまざまなソースやフォーマットからの情報を含んでいる。 世代:関連データが検索されると、生成プロセスでは、検索された情報に基づいて新しいコンテンツ、洞察、または応答を作成または生成する。 このように生成されたコンテンツは、既存のデータを補完し、意思決定や正確な回答の提供に役立つ。 RAGはどのように機能するのか? では、RAGの仕組みを理解しよう。 データ準備 最初のステップでは、コレクションに格納された文書とユーザーからのクエリの両方を同等のフォーマットに変換する。 このステップは、類似検索を行う上で非常に重要である。 数値表現(エンベッディング) 類似検索のために、文書とユーザークエリを比較可能にするために、それらはエンベッディングと呼ばれる数値表現に変換される。 これらの埋め込みは、洗練された埋め込み言語モデルを使用して作成され、基本的にテキスト内の概念を表す数値ベクトルとして機能する。 ベクトルデータベース テキストの数値表現である文書埋め込みは、ChromaやWeaviateのようなベクトルデータベースに格納することができる。 これらのデータベースは、類似検索のための埋め込みデータの効率的な保存と検索を可能にする。 類似検索 ユーザクエリから生成された埋め込みに基づき、埋め込み空間内で類似検索が行われる。 この検索は、埋め込み値の数値的な類似性に基づいて、コレクションから類似のテキストや文書を特定することを目的としている。 コンテキストの追加 類似のテキストを特定した後、検索されたコンテンツ(プロンプト+入力されたテキスト)がコンテキストに追加される。 元のプロンプトと関連する外部データの両方で構成されるこの拡張コンテキストは、次に言語モデル(LLM)に入力される。 モデル出力 言語モデルは、関連する外部データを使ってコンテキストを処理し、より正確でコンテキストに関連した出力や応答を生成できるようにする。 続きを読むRAG APIフレームワークとは? プライベート・クラウド環境にRAGを導入する5つのステップ 以下は、プライベート・クラウドにRAGを実装するための包括的なガイドである: 1.インフラ準備アセスメント まず、既存のプライベート・クラウド・インフラを評価することから始める。 ハードウェア、ソフトウェア、ネットワーク機能を評価し、RAGの実装との互換性を確保する。 シームレスな統合のための潜在的な制約や要件を特定する。 2.データ収集と準備 プライベートクラウド環境内の多様なソースから関連データを収集する。 これには、文書リポジトリ、データベース、API、その他の内部データソースが含まれる。 収集されたデータが整理され、洗浄され、さらなる処理のために準備されていることを確認する。 データは、検索や生成処理のためにRAGシステムに簡単に入力できる形式でなければならない。 3.適切な埋め込み言語モデルの選択 プライベート・クラウド環境の要件と規模に合わせて、適切なエンベッディング言語モデルを選択します。 BERT、GPT、またはその他の高度な言語モデルのようなモデルは、その互換性と性能指標に基づいて検討することができる。 4.埋め込みシステムの統合 ドキュメントやユーザークエリを数値表現(エンベッディング)に変換できるシステムやフレームワークを実装する。 これらの埋め込みが、テキストデータの意味と文脈を正確に捉えていることを確認する。 ベクターデータベース(例:Chroma、Weaviate)をセットアップして、これらの埋め込みを効率的に保存・管理し、迅速な検索や類似検索を可能にする。 5.テストと最適化 プライベートクラウド環境内に実装されたRAGシステムの機能性、正確性、効率性を検証するための厳格なテストを実施する。 さまざまなシナリオをテストし、潜在的な限界や改善点を特定する。… Read more »

記事を読む

最初のアシスタントは数分の距離にあります

ビジネス知識を活用しましょう。

無料の Cody アカウントから始めてください。コンテンツを追加し、アシスタントを構築し、最初の役立つ回答を今すぐ共有してください。