Telegram Group & Telegram Channel
🔥 Anthropic запилили Context Caching! 🔥

Называется она в их исполнении prompt caching. Запись токенов в кэш платная - цена кэшируемых токенов на 25% выше.

Основной подводный камень - хранятся кэшированные токены всего пять минут после последнего использования, но цена за кэшированный токен в десять раз лучше. Предложение явно хуже чем у DeepSeek, но вполне конкурентоспособно с Google (зависит от юзкейса).

Почитать что такое Context Caching можно тут.

Документация

@ai_newz



group-telegram.com/ai_newz/3127
Create:
Last Update:

🔥 Anthropic запилили Context Caching! 🔥

Называется она в их исполнении prompt caching. Запись токенов в кэш платная - цена кэшируемых токенов на 25% выше.

Основной подводный камень - хранятся кэшированные токены всего пять минут после последнего использования, но цена за кэшированный токен в десять раз лучше. Предложение явно хуже чем у DeepSeek, но вполне конкурентоспособно с Google (зависит от юзкейса).

Почитать что такое Context Caching можно тут.

Документация

@ai_newz

BY эйай ньюз




Share with your friend now:
group-telegram.com/ai_newz/3127

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

READ MORE False news often spreads via public groups, or chats, with potentially fatal effects. Markets continued to grapple with the economic and corporate earnings implications relating to the Russia-Ukraine conflict. “We have a ton of uncertainty right now,” said Stephanie Link, chief investment strategist and portfolio manager at Hightower Advisors. “We’re dealing with a war, we’re dealing with inflation. We don’t know what it means to earnings.” There was another possible development: Reuters also reported that Ukraine said that Belarus could soon join the invasion of Ukraine. However, the AFP, citing a Pentagon official, said the U.S. hasn’t yet seen evidence that Belarusian troops are in Ukraine. Continuing its crackdown against entities allegedly involved in a front-running scam using messaging app Telegram, Sebi on Thursday carried out search and seizure operations at the premises of eight entities in multiple locations across the country.
from cn


Telegram эйай ньюз
FROM American