Newsgather
Back生成AIの落とし穴「トークン死」とは何か、コスト削減のための対策を解説
生成AIの落とし穴「トークン死」とは何か、コスト削減のための対策を解説
En développement
ITmedia1 sa önceTechJapan

生成AIの落とし穴「トークン死」とは何か、コスト削減のための対策を解説

L'essentiel

生成AIの利用中にAIが突然停止する「トークン死」は、AIの処理単位である「トークン」の使用枠枯渇が原因。テキストだけでなく画像やPDF、Web検索結果、AIの推論もトークンとして消費されるため、コスト削減のためには無駄な消費を避ける対策が重要。

Résumé généré par IA

Taille de police

生成AIの利用中にAIが突然停止する「トークン死」は、AIの処理単位である「トークン」の使用枠枯渇が原因。テキストだけでなく画像やPDF、Web検索結果、AIの推論もトークンとして消費されるため、コスト削減のためには無駄な消費を避ける対策が重要。

Read the full article on ITmedia

Sujets liés

This article was originally published by ITmedia.

Articles liés

Anthropic appoints former Fed Chair Ben Bernanke to oversight board
En développement·4 dk önce

Anthropic appoints former Fed Chair Ben Bernanke to oversight board

米AI企業Anthropicは、元FRB議長でノーベル経済学賞受賞者のベン・バーナンキ氏を、同社の独立監督機関「Long-Term Benefit Trust」(LTBT)の新たなメンバーに任命した。LTBTは、Anthropicが人類の長期的な利益のためにAIを責任を持って開発するミッションから逸脱しないよう監督する組織。バーナンキ氏はAIが経済に与える影響に関する専門知識を提供する。

ITmedia
カードレスカードへの関心、31%が「興味あり」と回答 - スマートフォンで完結する利便性への期待と不安
Tech·1 sa önce

カードレスカードへの関心、31%が「興味あり」と回答 - スマートフォンで完結する利便性への期待と不安

Web3メディア「Mediverse」の調査によると、スマートフォンで発行・利用できる「カードレスカード」に31.0%が興味を示した。魅力は「紛失の心配が少ない」ことだが、不安は「スマホ紛失時」や「電池切れ」といったスマホ依存への懸念が上位を占めた。

ITmedia
IDC、サイバーセキュリティフレームワーク選定におけるAIと量子コンピュータへの備えの重要性を強調
En développement·2 sa önce

IDC、サイバーセキュリティフレームワーク選定におけるAIと量子コンピュータへの備えの重要性を強調

IDCは、NIST CSF 2.0、EUのDORA、ポスト量子暗号(PQC)標準化、AIリスクの4つの変化を挙げ、サイバーセキュリティフレームワーク選定にはAIガバナンスとPQCへの備えを現時点の判断項目として含めるよう提言。技術部門だけでなく法務、コンプライアンス、財務、事業部門、取締役会が関与し、5年間の段階的計画策定を推奨。

ITmedia
Plus sur ce sujet生成AI