Меня зовут Андрей Серебрянский, и я увлечён Apache Kafka и её возможностями доставки exactly once. Пять лет я занимался потоковой обработкой данных в финтехе, а теперь работаю над YDB Topics, частью СУБД Яндекса, заменяющей Kafka как брокер сообщений. Наша цель — расширение API Kafka, включая поддержку транзакций. Однако наличие транзакций недостаточно для гарантии exactly once. Важно понимать работу транзакций в брокерах сообщений. Я расскажу о популярных сценариях обработки данных, таких как перемещение сообщений между топиками, загрузка и выгрузка сообщений. Гарантии доставки данных делятся на три типа: at most once, at least once и exactly once. YDB изначально создавалась для работы с большими объёмами данных и высокими требованиями к транзакциям. Гарантии exactly once особенно важны в бизнес-критичных сценариях, таких как банковские транзакции. Мы обсудим, как YDB справляется с проблемами дублирования и сетевых задержек, а также использование идемпотентных продюсеров для обеспечения уникальности записей.
Как создать современный сайт на Laravel: практический маршрут от идеи до запуска
Если у вас есть идея для веб-проекта и вы хотите реализовать её быстро, надёжно и с хорошей архитектурой, разработчик сайта на laravel — один из лучших путей. В этой…


