- Data
- Conférence
- Avancé
- 55 min
Au-delà de la hype : gérer des embeddings à l'échelle du milliard dans Elasticsearch et OpenSearch
Date mercredi
Horaire 11h30 Ă 12h25
Salle Amphi D
Description
La recherche sémantique promet une révolution : pertinence contextuelle et compréhension du langage naturel en quelques lignes de code seulement. Sur un notebook ou un POC, c'est magique. Mais que se passe-t-il lorsque votre index dépasse le milliard de vecteurs ? La magie cÚde rapidement la place à la brutalité de l'ingénierie : explosion de la latence, coûts d'infrastructure incontrÎlés et défis liés à la RAM. Dans cette présentation, nous laissons le buzz marketing à la porte et plongeons dans les entrailles d'Elasticsearch et d'OpenSearch à trÚs grande échelle. Nous aborderons comment : - Architecturer vos clusters pour gérer un milliard d'embeddings sans flancher. - Optimiser le compromis critique entre précision et latence. - Réduire les coûts en utilisant des stratégies de quantification et de chunking intelligent. Si vous devez passer d'une recherche sémantique « Hello World » à une production massive, cette session est votre guide de survie.
Orateur·ices
Pietro Mele
Italian, adopted by France not long ago, I am a constant learner, dedicated to computer science and discoveryâwhether uncovering solutions or gaining insights.
Lucian Precup
Lucian Precup is the CTO of [all.site](https://all.site/) - the collaborative search engine developed at [Station F](http://stationf.co) in Paris. With his colleagues at [Adelean](http://adelean.com), Lucian develops solutions for indexing, searching and analyzing data. Lucian regularly shares his knowledge in specialized conferences and organizes the [Search & Data Meetup](https://www.meetup.com/fr-FR/search-and-data/).
Actions rapides
Les sessions futures sur le mĂȘme thĂšme
- Data
- Conférence
[REX] Une plateforme de données moderne avec Airflow, OpenMetadata, DBT, Google Cloud et Terraform
Un SI moderne est souvent composĂ© de nombreuses applications hĂ©tĂ©rogĂšnes, portant chacune ses propres donnĂ©es. Comment dans ce cas vĂ©rifier la cohĂ©rence des donnĂ©es de ces diffĂ©rents rĂ©fĂ©rentiels, et centraliser une donnĂ©e fiable, notamment dans un but de reporting aux Ă©quipes mĂ©tier ? Comment mettre en place une gouvernance des donnĂ©es, des tests de qualitĂ© sur ces donnĂ©es dans un contexte rĂ©parti ? Ce sont les questions que nous nous sommes posĂ©es, et auxquelles nous avons rĂ©pondu par la crĂ©ation d'une plateforme de donnĂ©es utilisant la philosophie ELT (Extract, Load, Transform) basĂ©e sur l'orchestrateur Airflow, sur la brique de gouvernance OpenMetadata et sur DBT pour la gestion des transformations "as code", le tout dĂ©ployĂ© par Terraform sur Google Cloud. Lors de ce talk, nous partagerons notre retour d'expĂ©rience sur la crĂ©ation de cette plateforme : - RĂ©flexions initiales et choix des briques technologiques - Prototypages de la solution et apprentissages - Industrialisation - Ătat actuel de la plateforme et rĂ©flexions futures Nous zoomerons notamment sur les diffĂ©rentes briques techniques utilisĂ©es, sur notre comprĂ©hension de leur fonctionnement et sur nos retours d'utilisation. Nous expliquerons Ă©galement comment nous avons cherchĂ© Ă rapprocher les pratiques Data, Dev, Ops et sĂ©curitĂ© pour rĂ©duire le "time to insight" (le temps entre la gĂ©nĂ©ration d'une donnĂ©e et la mise Ă disposition d'analyses basĂ©es sur cette donnĂ©e) et augmenter le "data trust" (la confiance dans les donnĂ©es utilisĂ©es pour le reporting) tout en assurant la robustesse de la plateforme.
Vendredi 9h30 Ă 10h25 - Amphi A