Context Caching уже начинают внедрять API провайдеры за пределами Google
Первыми тут идут китайцы из DeepSeek. Их API и так самый лучший по цена/качество на рынке - DeepSeek Coder V2 по качеству в программировании близок к Claude 3.5 и GPT-4o, а стоит в пятьдесят раз дешевле, а тут ещё и context caching бесплатный на 24 часа подвезли.
Я рассказывал уже про context caching ранее, фича очень классная как для чатов, где это банально делает чат дешевле, так и для пайплайнов, где часто переиспользуется один и тот же большой промпт.
Context Caching уже начинают внедрять API провайдеры за пределами Google
Первыми тут идут китайцы из DeepSeek. Их API и так самый лучший по цена/качество на рынке - DeepSeek Coder V2 по качеству в программировании близок к Claude 3.5 и GPT-4o, а стоит в пятьдесят раз дешевле, а тут ещё и context caching бесплатный на 24 часа подвезли.
Я рассказывал уже про context caching ранее, фича очень классная как для чатов, где это банально делает чат дешевле, так и для пайплайнов, где часто переиспользуется один и тот же большой промпт.
"Like the bombing of the maternity ward in Mariupol," he said, "Even before it hits the news, you see the videos on the Telegram channels." For tech stocks, “the main thing is yields,” Essaye said. The SC urges the public to refer to the SC’s I nvestor Alert List before investing. The list contains details of unauthorised websites, investment products, companies and individuals. Members of the public who suspect that they have been approached by unauthorised firms or individuals offering schemes that promise unrealistic returns At its heart, Telegram is little more than a messaging app like WhatsApp or Signal. But it also offers open channels that enable a single user, or a group of users, to communicate with large numbers in a method similar to a Twitter account. This has proven to be both a blessing and a curse for Telegram and its users, since these channels can be used for both good and ill. Right now, as Wired reports, the app is a key way for Ukrainians to receive updates from the government during the invasion. Recently, Durav wrote on his Telegram channel that users' right to privacy, in light of the war in Ukraine, is "sacred, now more than ever."
from no
