FAQ Amazon Bedrock

Les agents Amazon Bedrock sont des capacités entièrement gérées qui permettent aux développeurs de créer plus facilement des applications basées sur l’IA générative pouvant accomplir des tâches complexes pour un large éventail de cas d’utilisation et fournir des réponses actualisées basées sur des sources de connaissances propriétaires. En quelques étapes, les agents Amazon Bedrock décomposent automatiquement les tâches et créent un plan d’orchestration, sans aucun codage manuel. L'agent se connecte de manière sécurisée aux données de l'entreprise via une API, convertit automatiquement les données dans un format lisible par machine et complète la demande avec des informations pertinentes pour générer la réponse la plus précise possible. Les agents peuvent ensuite appeler automatiquement des API pour répondre à la demande d'un utilisateur. Par exemple, une entreprise de fabrication pourrait vouloir développer une application d’IA générative qui automatise le suivi des niveaux d’inventaire, des données de vente, des informations sur la chaîne d’approvisionnement et qui peut recommander des points de commande et des quantités optimales pour maximiser l’efficacité. En tant que capacités entièrement gérées, les agents Amazon Bedrock suppriment la gestion indifférenciée de l’intégration des systèmes et du provisionnement de l’infrastructure, permettant ainsi aux développeurs d’utiliser l’IA générative dans l’ensemble de leur organisation.

Vous pouvez connecter en toute sécurité les FM aux sources de données de votre entreprise à l’aide d’agents Amazon Bedrock. Avec une base de connaissances, vous pouvez utiliser des agents pour permettre aux FM dans Amazon Bedrock d'accéder à des données supplémentaires qui aident le modèle à générer des réponses plus pertinentes, spécifiques au contexte et précises sans pour autant reformer continuellement le FM. Sur la base des entrées de l'utilisateur, les agents identifient la base de connaissances appropriée, récupèrent les informations pertinentes et ajoutent les informations à l'invite d'entrée, fournissant ainsi au modèle davantage d'informations contextuelles pour générer un achèvement.

Les agents Amazon Bedrock peuvent vous aider à augmenter votre productivité, à améliorer l’expérience de votre service client et à automatiser les flux de travail (tels que le traitement des déclarations de sinistre).

Grâce aux agents, les développeurs bénéficient d’une prise en charge transparente de la surveillance, du chiffrement, des autorisations utilisateur, de la gestion des versions et de la gestion des invocations d’API sans avoir à écrire de code personnalisé. Les agents Amazon Bedrock automatisent l’ingénierie de requêtes et l’orchestration des tâches demandées par les utilisateurs. Les développeurs peuvent utiliser le modèle de requête créé par l’agent comme base de référence pour l’affiner davantage afin d’améliorer l’expérience utilisateur. Ils peuvent mettre à jour les entrées utilisateur, le plan d'orchestration et la réponse FM. Grâce à l'accès au modèle de requête, les développeurs ont un meilleur contrôle sur l'orchestration de l'agent.

Avec des agents entièrement gérés, vous n'avez pas à vous soucier du provisionnement ou de la gestion de l'infrastructure et vous pouvez mettre les applications en production plus rapidement.

Tout contenu client traité par Amazon Bedrock est chiffré et stocké au repos dans la Région AWS où vous utilisez le service.

Non. Les entrées des utilisateurs et les sorties des modèles ne sont pas partagées avec d'autres fournisseurs de modèles.

Amazon Bedrock propose plusieurs capacités pour répondre aux exigences de sécurité et de confidentialité. Amazon Bedrock respecte les normes de conformité courantes telles que Fedramp Moderate, le contrôle des services et des organisations (SOC), l’Organisation internationale de normalisation (ISO), l’éligibilité à la loi HIPAA (Health Insurance Portability and Accountability Act), et les clients peuvent utiliser Bedrock conformément au règlement général sur la protection des données (RGPD). Amazon Bedrock est inclus dans le champ d'application des rapports SOC 1, 2 et 3, ce qui donne aux clients plus d'informations sur nos contrôles de sécurité. Nous démontrons notre conformité par le biais d'audits tiers approfondis de nos contrôles AWS. Amazon Bedrock est l'un des services AWS conformes aux normes ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 et ISO 20000. Amazon Bedrock est certifié CSA Security Trust Assurance and Risk (STAR) de niveau 2, ce qui valide l'utilisation des bonnes pratiques et le niveau de sécurité des offres cloud AWS. Avec Amazon Bedrock, votre contenu n'est pas utilisé pour améliorer les modèles de base et n'est pas partagé avec d'autres fournisseurs de modèles. Vous pouvez utiliser AWS PrivateLink pour établir une connectivité privée entre Amazon VPC et Amazon Bedrock, sans avoir à exposer vos données au trafic Internet.

 

Non, AWS et les fournisseurs de modèles tiers n'utiliseront aucune entrée ou sortie d’Amazon Bedrock pour former Amazon Titan ou tout autre modèle tiers.

Amazon Bedrock prend en charge les SDK pour les services d'exécution.Les SDK iOS et Android, ainsi que Java, JS, Python, CLI, .Net, Ruby, PHP, Go et C++, prennent en charge à la fois la saisie de texte et la saisie vocale.

Le streaming est pris en charge sur tous les SDK.

Veuillez consulter la page de tarification d’Amazon Bedrock pour obtenir des informations sur les tarifs actuellement en vigueur.

En fonction de votre contrat AWS Support, Amazon Bedrock est pris en charge dans le cadre des forfaits Developer Support, Business Support et Enterprise Support.

Vous pouvez utiliser les métriques CloudWatch pour suivre les jetons d'entrée et de sortie.

Nous avons lancé une pré-formation continue pour les modèles Amazon Titan Text Express et Amazon Titan sur Amazon Bedrock. La pré-formation continue vous permet de poursuivre la pré-formation sur un modèle de base Amazon Titan en utilisant de grandes quantités de données non étiquetées. Ce type de formation adaptera le modèle depuis un corpus de domaine général vers un corpus de domaine plus spécifique tel que la médecine, le droit, la finance, etc. tout en préservant la plupart des capacités du modèle de base Amazon Titan. 

En général, les entreprises peuvent souhaiter créer des modèles pour les tâches dans un domaine spécifique. Les modèles de base peuvent ne pas être entraînés sur le jargon technique utilisé dans ce domaine spécifique. Ainsi, l'ajustement direct du modèle de base nécessitera de grandes quantités d’enregistrements de formation étiquetés et une longue durée de formation pour obtenir des résultats précis. Pour alléger cette charge, le client peut fournir à la place de grandes quantités de données non étiquetées pour une tâche de pré-formation continue. Ce travail adaptera le modèle de base d'Amazon Titan au nouveau domaine. Le client peut ensuite ajuster le modèle personnalisé nouvellement pré-formé aux tâches en aval en utilisant beaucoup moins d'enregistrements de formation étiquetés et avec une durée de formation plus courte. 

La pré-formation continue et le réglage fin d'Amazon Bedrock ont des exigences très similaires. C'est pourquoi nous avons choisi de créer des API unifiées qui prennent en charge à la fois la pré-formation continue et le réglage fin. L'unification des API réduit la courbe d'apprentissage et aidera les clients à utiliser des fonctionnalités standard telles qu’Amazon EventBridge pour suivre les tâches de longue durée, l'intégration d’Amazon S3 pour récupérer les données de formation, les balises de ressources et le chiffrement des modèles. 

La pré-formation continue vous permet d'adapter facilement les modèles Amazon Titan aux données spécifiques à votre domaine tout en préservant les fonctionnalités de base des modèles Amazon Titan. Pour créer une tâche de pré-formation continue, accédez à la console Amazon Bedrock et cliquez sur « Modèles personnalisés ». Vous accéderez à la page du modèle personnalisé qui comporte deux onglets : Modèles et Tâches d'entraînement. Les deux onglets proposent un menu déroulant « Personnaliser le modèle » sur la droite. Sélectionnez « Pré-formation continue » dans le menu déroulant pour accéder à « Créer une tâche de pré-formation continue ». Vous fournirez le modèle source, le nom, le chiffrement du modèle, les données d'entrée, les hyperparamètres et les données de sortie. En outre, vous pouvez fournir des balises ainsi que des détails sur les rôles AWS Identity and Access Management (IAM) et les politiques de ressources pour la tâche.

Exclusive à Amazon Bedrock, la famille de modèles Amazon Titan intègre les 25 années d'expérience d'Amazon en matière d'innovation avec l’IA et le machine learning dans l'ensemble de l’entreprise. Les FM Amazon Titan offrent aux clients un large éventail de choix de modèles d'image, multimodaux et de texte haute performance via une API entièrement gérée. Les modèles Amazon Titan sont créés par AWS et préentraînés sur de grands jeux de données, ce qui en fait des modèles puissants et polyvalents conçus pour prendre en charge divers cas d'utilisation, tout en favorisant l'utilisation responsable de l'IA. Utilisez-les tels quels ou personnalisez-les avec vos propres données. En savoir plus sur Amazon Titan.

Pour en savoir plus sur les données traitées pour développer et former les Amazon Titan FM, veuillez consulter la page Entraînement au modèle Amazon Titan et confidentialité.

Vous pouvez ingérer du contenu provenant de différentes sources, notamment le Web, Amazon Simple Storage Service (Amazon S3), Confluence (version préliminaire), Salesforce (version préliminaire) et SharePoint (version préliminaire). Vous pouvez également ingérer par programmation des données en streaming ou des données provenant de sources non prises en charge. Vous pouvez également vous connecter à vos sources de données structurées telles que l’entrepôt de données Redshift et le Catalogue de données AWS Glue.

Amazon Bedrock Knowledge Bases fournit un langage naturel géré vers SQL pour convertir le langage naturel en requêtes SQL exploitables et récupérer des données, ce qui vous permet de créer des applications à partir des données provenant de ces sources.

Oui, la gestion du contexte des sessions est intégrée, ce qui permet à vos applications de gérer le contexte entre plusieurs interactions, ce qui est essentiel pour prendre en charge les conversations entre plusieurs personnes.

Oui, toutes les informations récupérées incluent des citations, améliorant ainsi la transparence et minimisant le risque d’hallucinations dans les réponses générées.

Amazon Bedrock Knowledge Bases prend en charge le traitement des données multimodales, ce qui permet aux développeurs de créer des applications d’IA générative qui analysent à la fois du texte et des données visuelles, notamment des images, des graphiques, des diagrammes et des tableaux. Les réponses de modèles peuvent tirer parti des informations provenant d’éléments visuels en plus du texte, et ainsi fournir des réponses plus précises et pertinentes du point de vue contextuel. En outre, l’attribution de la source des réponses inclut des éléments visuels, ce qui améliore la transparence et la confiance dans les réponses.

Amazon Bedrock Knowledge Bases peut traiter des documents visuellement riches au format PDF, qui peuvent contenir des images, des tableaux, des graphiques et des diagrammes. Pour les données contenant uniquement des images, Bedrock Knowledge Bases prend en charge les formats d’image standard tels que JPEG et PNG, permettant aux utilisateurs de récupérer des images pertinentes en fonction de requêtes textuelles.

Les clients disposent de trois options d’analyse pour Amazon Bedrock Knowledge Bases. Pour le traitement du texte uniquement, l’analyseur Bedrock intégré par défaut est disponible sans frais supplémentaires. Il est idéal pour les cas où le traitement des données multimodales n’est pas requis. Amazon Bedrock Data Automation (BDA) ou des modèles de base peuvent être utilisés pour analyser les données multimodales. Pour plus d’informations, consultez la documentation du produit. 

Amazon Bedrock Knowledge Bases gère diverses complexités du flux de travail, telles que la comparaison de contenus, la gestion des défaillances, le contrôle du débit et le chiffrement, ce qui garantit que vos données sont traitées et gérées en toute sécurité conformément aux rigoureuses normes de sécurité d’AWS.

L'évaluation de modèle sur Amazon Bedrock vous permet d'évaluer, de comparer et de sélectionner les FM les plus adaptés à votre cas d'utilisation en seulement quelques clics. Amazon Bedrock donne le choix entre évaluation automatique et évaluation humaine. Vous pouvez utiliser la première avec des paramètres prédéfinis tels que la précision, la robustesse et la toxicité. Vous pouvez utiliser les flux de travail d'évaluation humaine pour obtenir des métriques subjectives ou personnalisées telles que la convivialité, le style et l'alignement avec la voix de la marque. Pour l'évaluation humaine, vous pouvez faire appel à vos employés en interne ou à une équipe gérée par AWS en tant que réviseurs. L'évaluation de modèle sur Amazon Bedrock fournit des jeux de données intégrés mais vous pouvez également apporter vos propres jeux de données.

Vous pouvez évaluer diverses métriques prédéfinies telles que la précision, la robustesse et la toxicité à l'aide d'évaluations automatiques. Vous pouvez également utiliser les flux de travail d'évaluation humaine pour obtenir des métriques subjectives ou personnalisées telles que la convivialité, la pertinence, le style et l'alignement avec la voix de la marque.

Les évaluations automatiques vous permettent de réduire rapidement la liste des FM disponibles par rapport à des critères standard (tels que la précision, la toxicité et la robustesse). Les évaluations humaines sont souvent utilisées pour évaluer des critères plus nuancés ou subjectifs qui nécessitent un jugement humain et où les évaluations automatiques peuvent ne pas exister (tels que la voix de la marque, l'intention créative, la convivialité).

Vous pouvez évaluer rapidement les modèles Amazon Bedrock pour des indicateurs tels que la précision, la robustesse et la toxicité en tirant parti de jeux de données intégrés sélectionnés ou en apportant vos propres jeux de données de requêtes. Une fois que vos jeux de données de requêtes ont été envoyés aux modèles Amazon Bedrock à des fins d'inférence, les réponses des modèles sont notées à l'aide d'algorithmes d'évaluation pour chaque dimension. Le moteur de back-end regroupe les scores de réponse aux requêtes individuels en scores récapitulatifs et les présente sous forme de rapports visuels faciles à comprendre.

Amazon Bedrock vous permet de configurer des flux de travail de révision humaine en quelques clics et de demander à vos employés en interne ou à une équipe d'experts dirigée par AWS d'évaluer les modèles. Grâce à l'interface intuitive d'Amazon Bedrock, les utilisateurs peuvent examiner les réponses des modèles et donner leur avis en cliquant sur les pouces vers le haut ou vers le bas, en évaluant sur une échelle de 1 à 5, en choisissant la meilleure parmi plusieurs réponses ou en classant les requêtes. Par exemple, un membre de l'équipe peut voir comment deux modèles répondent à la même requête, puis être invité à sélectionner le modèle qui affiche les résultats les plus précis, pertinents ou stylistiques. Vous pouvez spécifier les critères d'évaluation qui vous intéressent en personnalisant les instructions et les boutons qui apparaîtront dans l'interface utilisateur d'évaluation de votre équipe. Vous pouvez également fournir des instructions détaillées avec des exemples et l'objectif général de l'évaluation du modèle, afin que les utilisateurs puissent aligner leur travail en conséquence. Cette méthode est utile pour évaluer des critères subjectifs qui nécessitent un jugement humain ou une expertise plus nuancée en la matière, et qui ne peuvent pas être facilement jugés par des évaluations automatiques.

Les barrières de protection Amazon Bedrock vous permettent de mettre en œuvre des mesures de protection pour vos applications d’IA générative en fonction de vos cas d’utilisation et de vos politiques d’IA responsable. Les barrières de protection aident à contrôler l'interaction entre les utilisateurs et les FM en filtrant les contenus indésirables et nuisibles, et supprimeront bientôt les données d'identification personnelle (PII), améliorant ainsi la sécurité et la confidentialité du contenu dans les applications d'IA générative. Vous pouvez créer plusieurs barrières de protection avec différentes configurations adaptées à des cas d'utilisation spécifiques. De plus, grâce aux barrières de protection, vous pouvez surveiller et analyser en permanence les entrées des utilisateurs et les réponses des FM susceptibles d'enfreindre les politiques définies par le client.

Les garde-fous vous aident à définir un ensemble de politiques visant à protéger vos applications d’IA générative. Vous pouvez configurer les politiques suivantes dans une barrière de protection.

• Contrôles d’ancrage contextuel : contribuent à détecter et à filtrer les hallucinations si les réponses ne sont pas fondées (par exemple, des informations factuelles inexactes ou nouvelles) dans les informations sources et ne sont pas pertinentes par rapport à la requête ou aux instructions de l’utilisateur.
• Contrôles de raisonnement automatisé : contribuent à détecter les inexactitudes factuelles dans le contenu généré, à suggérer des corrections et à expliquer pourquoi les réponses sont exactes en les comparant à une représentation mathématique structurée des connaissances appelée politique de raisonnement automatisé.
• Filtres de contenu : vous aident à configurer des seuils pour détecter et filtrer le contenu textuel préjudiciable dans des catégories telles que la haine, les insultes, la sexualité, la violence, les mauvaises conduites et les attaques par invite. En outre, les filtres de contenu peuvent détecter et filtrer le contenu d’images préjudiciable dans ces catégories, contribuant ainsi à créer des applications multimodales sûres.
• Sujets refusés : vous aident à définir un ensemble de sujets indésirables dans le contexte de votre application. Par exemple, un assistant bancaire en ligne peut être conçu pour s'abstenir de fournir des conseils d'investissement.
• Filtres de mots : vous aident à définir un ensemble de mots à bloquer dans les entrées utilisateur et dans les réponses générées par FM.
• Filtre d’informations sensibles : vous aide à réagir à des informations sensibles, comme un ensemble d’informations personnelles qui peuvent être supprimées dans les réponses générées par le modèle de fondation. Selon le cas d’utilisation, les garde-fous peuvent également vous aider à bloquer une saisie utilisateur si elle contient des informations personnelles.

Amazon Bedrock Guardrails fonctionne avec un large éventail de modèles, notamment des modèles de fondation pris en charge dans Amazon Bedrock, des modèles optimisés, ainsi que des modèles auto-hébergés en dehors d’Amazon Bedrock. Les entrées utilisateur et les sorties de modèles peuvent être évaluées indépendamment pour les modèles tiers et auto-hébergés à l’aide de l’API ApplyGuardRail. Amazon Bedrock Guardrails peut également être intégré à Amazon Bedrock Agents et à Amazon Bedrock Knowledge Bases afin de créer des applications d’IA générative sécurisées et conformes à vos politiques d’IA responsable.

AWS offre une indemnité de propriété intellectuelle (PI) non plafonnée pour les réclamations relatives aux droits d’auteur liées à la production des services d’IA générative Amazon généralement disponibles : modèles Amazon Titan et autres services répertoriés dans la section 50.10 des Conditions de service (les « Services d’IA générative indemnisés »). Cela signifie que les clients sont protégés contre les réclamations de tiers alléguant une violation du droit d'auteur par les résultats générés par les Services d'IA générative indemnisés en réponse à des entrées ou à d'autres données fournies par le client. Les clients doivent également utiliser les services de manière responsable, par exemple en ne saisissant pas de données illicites ou en désactivant les fonctionnalités de filtrage d'un Service.

Il existe cinq politiques de garde-fous, chacune assortie de différentes protections standard

• Filtres de contenu : 6 catégories standard sont incluses (haine, insultes, sexualité, violence, inconduite [y compris activité criminelle] et attaque par invite [débridage et infiltration d’invite]). Il est également possible d’appliquer d’autres seuils personnalisés à chaque catégorie afin de déterminer l’intensité du filtrage : faible/moyen/élevé pour le contenu textuel et image.
• Sujet refusé : il s’agit de sujets personnalisés que le client peut définir à l’aide d’une simple description en langage naturel
• Filtre d’informations sensibles : il est fourni avec plus de 30 PII standard. Vous pouvez le personnaliser davantage en ajoutant les informations confidentielles du client qui sont sensibles.
• Filtres de mots : ils sont livrés avec un filtrage du langage grossier standard, mais il est possible de les personnaliser en y ajoutant d’autres mots.
• Les vérifications contextuelles peuvent être utilisées pour détecter les hallucinations pour les applications RAG, de synthèse et conversationnelles, où les informations sources peuvent être utilisées comme référence pour valider la réponse du modèle.

Il existe cinq politiques de garde-fous, chacune assortie de différentes protections standard

• Filtres de contenu : 6 catégories standard sont incluses (haine, insultes, sexualité, violence, inconduite [y compris activité criminelle] et attaque par invite [débridage et infiltration d’invite]). Il est également possible d’appliquer d’autres seuils personnalisés à chaque catégorie afin de déterminer l’intensité du filtrage : faible/moyen/élevé.
• Sujet refusé : il s’agit de sujets personnalisés que le client peut définir à l’aide d’une simple description en langage naturel
• Filtre d’informations sensibles : il est fourni avec plus de 30 PII standard. Vous pouvez le personnaliser davantage en ajoutant les informations confidentielles du client qui sont sensibles.
• Filtres de mots : ils sont livrés avec un filtrage du langage grossier standard, mais il est possible de les personnaliser en y ajoutant d’autres mots.
• Les vérifications contextuelles peuvent être utilisées pour détecter les hallucinations pour les applications RAG, de synthèse et conversationnelles, où les informations sources peuvent être utilisées comme référence pour valider la réponse du modèle.

Les modèles de fondation présentent des protections natives qui sont associées par défaut à chaque modèle. Ces mesures de protection natives ne font PAS partie des barrières de protection Amazon Bedrock. Les barrières de protection Amazon Bedrock constituent une couche supplémentaire de mesures de protection personnalisées que le client peut éventuellement appliquer en fonction des exigences de ses applications et de ses politiques d’IA responsable.

Les barrières de protection Amazon Bedrock peuvent détecter plus de 30 PII standard, dont le SSN et le numéro de téléphone. La liste complète est disponible ici.

L’utilisation des barrières de protection Amazon Bedrock entraîne un coût distinct. Il peut être appliqué à la fois à l’entrée et à la sortie. Les tarifs sont indiqués en bas de page ici. La tarification de la prise en charge des images avec des filtres de contenu (actuellement en version préliminaire publique) sera annoncée lors de la mise à disposition générale.

L’utilisation des barrières de protection Amazon Bedrock entraîne un coût distinct. Il peut être appliqué à la fois à l’entrée et à la sortie. Les tarifs sont indiqués en bas de page ici.

Oui, les API de garde-fou Amazon Bedrock aident les clients à exécuter des tests automatisés. Le « générateur de cas de test » est peut-être quelque chose que vous souhaitez utiliser avant de déployer des garde-fous en production. Il n’existe pas encore de générateur de cas de test natif. Pour une surveillance continue du trafic de production, les garde-fous aident à fournir des journaux détaillés de toutes les violations pour chaque entrée et sortie, afin que les clients puissent surveiller de manière granulaire chaque entrée et sortie de leur application d’IA générative. Ces journaux peuvent être stockés dans CloudWatch ou S3 et peuvent être utilisés pour créer des tableaux de bord personnalisés en fonction des besoins des clients.

Grâce à une politique de raisonnement automatisé, les contrôles de raisonnement automatisé peuvent mettre en évidence à la fois des affirmations précises et des inexactitudes factuelles dans le contenu. Pour les déclarations exactes et inexactes, le contrôle de raisonnement automatisé fournit des explications logiques et vérifiables pour sa sortie. Le contrôle de raisonnement automatisé nécessite l’intervention préalable d’un expert du domaine pour créer une politique et ne prend en charge que le contenu qui définit des règles. D’autre part, les vérifications contextuelles de Bedrock Guardrails utilisent des techniques de machine learning pour garantir que le contenu généré suit de près les documents fournis en tant qu’entrée depuis une base de connaissances, sans nécessiter de travail préalable supplémentaire. Les contrôles de raisonnement automatisé et l’ancrage contextuel communiquent leurs commentaires dans la sortie de l’API Guardrails. Vous pouvez utiliser les commentaires pour mettre à jour le contenu généré.

Amazon Bedrock Marketplace propose à ses clients plus de 100 modèles populaires, émergents ou spécialisés, en plus des FM sans serveur d’Amazon Bedrock, afin que les clients puissent facilement créer et optimiser leurs applications d’IA générative. Dans la console Amazon Bedrock, les clients pourront découvrir un large catalogue de FM proposés par différents fournisseurs. Vous pouvez ensuite déployer ces modèles sur des points de terminaison entièrement gérés, où vous pouvez choisir le nombre d’instances et les types d’instances que vous souhaitez. Une fois les modèles déployés, ils sont accessibles via l’API Invoke d’Amazon Bedrock. Pour les modèles texte-texte adaptés au chat, les clients peuvent utiliser notre nouvelle API Converse, une API unifiée qui résume les différences entre les FM et qui permet de basculer entre les modèles en un seul changement de paramètre. Le cas échéant, les modèles peuvent être utilisés avec Amazon Bedrock Playground, Agents, Knowledge Bases, Prompt Management, Prompt Flows, Guardrails et Model Evaluation.

Vous devriez utiliser Amazon Bedrock Marketplace pour bénéficier des modèles performants qui émergent rapidement alors que le secteur de l’IA générative continue d’innover. Vous pouvez rapidement accéder à des modèles populaires, émergents et spécialisés adaptés à vos besoins uniques et les déployer, ce qui peut accélérer les délais de mise sur le marché, améliorer la précision ou réduire le coût de vos flux de travail d’IA générative Vous pouvez accéder aux modèles via les API unifiées de Bedrock et, s’ils sont compatibles avec l’API Converse de Bedrock, les utiliser de manière native avec les outils Bedrock tels que Agents, Knowledge Bases et Guardrails. Vous pouvez facilement connecter Amazon Bedrock Marketplace aux modèles sans serveur d’Amazon Bedrock, le tout depuis un seul et même endroit.
 

Accédez simplement à la page du catalogue de modèles Amazon Bedrock dans la console Bedrock, où vous pouvez rechercher les listes de modèles Amazon Bedrock Marketplace ainsi que les modèles Amazon Bedrock sans serveur. Après avoir sélectionné le modèle Amazon Bedrock Marketplace que vous souhaitez utiliser, vous pouvez vous y abonner via la page détaillée du modèle, en acceptant le CLUF et le ou les prix fixés par le fournisseur. Une fois l’abonnement terminé, ce qui prend généralement quelques minutes, vous pouvez déployer le modèle sur un point de terminaison SageMaker entièrement géré en cliquant sur Déployer dans la page détaillée du modèle ou en utilisant des API. Au cours de l’étape de déploiement, vous pouvez sélectionner le nombre d’instances et les types d’instances souhaités en fonction de votre charge de travail. Une fois le terminal configuré, ce qui prend généralement 10 à 15 minutes, vous pouvez commencer à effectuer des appels d’inférence vers le point de terminaison et utiliser le modèle dans les outils avancés de Bedrock, à condition que le modèle soit compatible avec l’API Converse de Bedrock.

Les modèles dont les architectures sont prises en charge par l’importation de modèles personnalisés (Mistral, Mixtral, Flan et Llama2/3/3.1/3.2) peuvent être optimisés dans SageMaker et mis à disposition dans Amazon Bedrock via l’importation de modèles personnalisés. Les modèles qui ne sont pas pris en charge par l’importation de modèles personnalisés peuvent toujours être optimisés dans SageMaker. Cependant, la version optimisée de ces modèles ne peut pas être utilisée dans Amazon Bedrock.

Qu’est-ce que Bedrock Data Automation ? Amazon Bedrock Data Automation est une fonctionnalité de Bedrock alimentée par GenAI qui rationalise le développement d’applications d’IA générative et qui automatise les flux de travail impliquant des documents, des images, du son et des vidéos. En tirant parti de Bedrock Data Automation, les développeurs peuvent réduire le temps et les efforts de développement, ce qui facilite la création de solutions intelligentes de traitement des documents, d’analyse des médias et d’autres solutions d’automatisation multimodales centrées sur les données. Bedrock Data Automation offre une précision de pointe à moindre coût par rapport aux solutions alternatives, ainsi que des fonctionnalités telles que l’ancrage visuel avec des scores de confiance pour l’explicabilité et une atténuation intégrée des hallucinations. Cela garantit des informations fiables et précises à partir de sources de données multimodales non structurées. Les clients peuvent facilement personnaliser les résultats de Bedrock Data Automation pour générer des informations spécifiques dans des formats cohérents requis par leurs systèmes et applications. Les développeurs commencent à utiliser Bedrock Data Automation sur la console Amazon Bedrock, où ils peuvent configurer et personnaliser la sortie à l’aide de leurs exemples de données. Ils peuvent ensuite intégrer l’API d’inférence multimodale unifiée de Bedrock Data Automation dans leurs applications afin de traiter leur contenu non structuré à l’échelle de la production avec une précision et une cohérence élevées. Bedrock Data Automation est également intégré à Bedrock Knowledge Bases, ce qui permet aux développeurs de générer plus facilement des informations pertinentes à partir de leur contenu multimodal non structuré afin de fournir des réponses plus pertinentes pour la génération à enrichissement contextuel (RAG).

Bedrock Data Automation facilite la transformation des données d’entreprise non structurées en formats de sortie spécifiques aux applications qui peuvent être utilisés par les applications d’IA générative et les flux de travail ETL. Les clients n’ont plus besoin de consacrer du temps et des efforts à la gestion et à l’orchestration de plusieurs modèles, à la conception d’invites, à la mise en œuvre de garde-fous de sécurité ou à l’assemblage de sorties pour les aligner sur les exigences du système en aval. Bedrock Data Automation fournit un traitement hautement précis, cohérent et rentable des données non structurées. Bedrock Data Automation est conçu dans une optique d’IA responsable, en proposant aux clients des fonctionnalités clés telles que l’ancrage visuel et les scores de confiance, qui facilitent l’intégration de Bedrock Data Automation dans les flux de travail d’entreprise.

Les fonctionnalités de Bedrock Data Automation sont disponibles via une API entièrement gérée que les clients peuvent facilement intégrer à leurs applications. Les clients n’ont pas à se soucier de la mise à l’échelle des ressources de calcul sous-jacentes, de la sélection et de l’orchestration des modèles ou de la gestion des invites pour les FM.

Un plan est une fonctionnalité que les clients utilisent pour spécifier leurs exigences de sortie à l’aide d’un langage naturel ou d’un éditeur de schéma. Il comprend une liste des champs qu’ils souhaitent extraire, un format de données pour chaque champ et des instructions en langage naturel pour chaque champ. Par exemple, les développeurs peuvent saisir « Créer un plan pour les factures avec les champs suivants : taxe, date d’échéance, date de réception » ou « Confirmer que le total de la facture correspond à la somme des postes ». Ils font référence à des plans dans le cadre des appels d’API d’inférence afin que le système renvoie les informations dans le format décrit dans le plan.

Documents

Bedrock Data Automation prend en charge à la fois la sortie standard et la sortie personnalisée pour les documents.

• La sortie standard fournira l’extraction de texte à partir de documents et une sortie générative telle que le résumé du document et les légendes des tableaux/figures/diagrammes. La sortie est renvoyée dans l’ordre de lecture et peut éventuellement être groupée par élément de mise en page, qui inclura les en-têtes/pieds de page/titres/tableaux/figures/diagrammes. La sortie standard sera utilisée pour l’intégration de BDA à Bedrock Knowledge Bases.
• La sortie personnalisée s’appuie sur des plans, qui spécifient les exigences de sortie à l’aide du langage naturel ou d’un éditeur de schéma. Les plans incluent une liste de champs à extraire et un format de données pour chaque champ.

Bedrock Data Automation prendra en charge les formats PDF, PNG, JPG, TIFF, un maximum de 100 pages et une taille de fichier maximale de 500 Mo par demande d’API. BDA prendra en charge une simultanéité maximale de cinq paquets de documents et un débit d’une page par seconde et par client.

Images
Bedrock Data Automation prend en charge à la fois la sortie standard et la sortie personnalisée pour les images.

• La sortie standard fournira un résumé, le contenu explicite détecté, le texte détecté et la taxonomie des annonces : IAB pour les images. La sortie standard sera utilisée pour l’intégration de BDA à Bedrock Knowledge Bases.
• La sortie personnalisée s’appuie sur des plans, qui spécifient les exigences de sortie à l’aide du langage naturel ou d’un éditeur de schéma. Les plans incluent une liste de champs à extraire et un format de données pour chaque champ.

Bedrock Data Automation prendra en charge les formats JPG, PNG, une résolution maximale de 4K et une taille de fichier maximale de 5 Mo par demande d’API. BDA prendra en charge une simultanéité maximale de 100 images à raison d’une image par seconde et par client.

Vidéos

Bedrock Data Automation prend en charge les deux sorties standard pour les vidéos.

• La sortie standard fournira un résumé vidéo complet, une segmentation de la scène, un résumé de la scène, une transcription audio complète, l’identification du locuteur, le contenu explicite détecté, le texte détecté et la taxonomie de l’IAB (Interactive Advertising Bureau) pour les vidéos. Le résumé vidéo complet est optimisé pour le contenu comportant un dialogue descriptif, tel que des aperçus de produits, des formations, des actualités et des documentaires.

Bedrock Data Automation prendra en charge les formats MOV et MKV avec H.264, une durée vidéo maximale de 4 heures et une taille de fichier maximale de 2 Go par demande d’API. BDA prendra en charge une simultanéité maximale de 25 vidéos à raison de 20 minutes vidéo par minute et par client.

Audio

Bedrock Data Automation prend en charge les deux sorties standard pour l’audio.

• La sortie standard fournira un résumé, une transcription complète et le contenu explicite détecté pour les fichiers audio.

Bedrock Data Automation prendra en charge les formats FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, une durée audio maximale de 4 heures et une taille de fichier maximale de 2 Go par demande d’API. La sortie standard fournira un résumé, une transcription complète et le contenu explicite détecté pour les fichiers audio.

Amazon Bedrock Data Automation est actuellement disponible dans la région USA Ouest (Oregon).

Amazon Bedrock IDE (version préliminaire) est un environnement collaboratif régi intégré à Amazon SageMaker Unified Studio (version préliminaire) qui permet aux développeurs de créer et d’itérer rapidement sur des applications d’IA générative à l’aide de modèles de fondation (FM) performants. Il fournit une interface intuitive pour expérimenter ces modèles, collaborer sur des projets et rationaliser l’accès aux divers outils et ressources Bedrock afin de créer rapidement des applications d’IA générative.

Pour accéder à Amazon Bedrock IDE dans Amazon SageMaker Unified Studio, les développeurs et leurs administrateurs doivent procéder comme suit :

1. Créez un domaine dans Amazon SageMaker Unified Studio.
2. Activez le profil de projet de développement d’applications d’IA générative.
3. Accédez à Amazon Bedrock IDE à l’aide des informations d’identification pour l’authentification unique (SSO) de leur entreprise dans Amazon SageMaker Unified Studio.

Amazon Bedrock IDE, désormais intégré à Amazon SageMaker Unified Studio, s’appuie sur Amazon Bedrock Studio (version préliminaire) avec plusieurs améliorations clés. Il donne accès à des modèles d’IA avancés de grandes entreprises, à des outils permettant de créer et de tester des invites d’IA et à une intégration transparente avec Bedrock Knowledge Bases, Guardrails, Flows et Agents. Les équipes peuvent collaborer dans un espace de travail partagé pour créer des applications d’IA personnalisées et adaptées à leurs besoins.

Les nouvelles fonctionnalités de Bedrock IDE incluent un hub de modèles permettant de comparer côte à côte des modèles d’IA, un terrain de jeu étendu prenant en charge les interactions par chat, image et vidéo, et une création améliorée de bases de connaissances grâce à l’indexation de site web. Il introduit la création d’agents pour les applications de chat plus complexes et simplifie le partage des applications d’IA et des invites au sein des organisations. Bedrock IDE permet également d’accéder au code de l’application sous-jacente et d’exporter des applications de chat sous forme de modèles CloudFormation. En gérant les détails de l’infrastructure AWS, il permet aux utilisateurs de différents niveaux de compétence de créer des applications d’IA plus efficacement, ce qui en fait un outil plus polyvalent et plus performant que son prédécesseur.

Amazon Bedrock IDE permet la collaboration entre les équipes en fournissant un environnement de développement régi au sein d’Amazon SageMaker Unified Studio. Les équipes peuvent créer des projets, inviter des collègues et créer des applications d’IA générative de manière collaborative. Elles peuvent recevoir des commentaires rapides sur leurs prototypes et partager les applications avec n’importe qui dans Amazon SageMaker Unified Studio ou avec des utilisateurs spécifiques du domaine. Des contrôles d’accès et des fonctionnalités de gouvernance robustes permettent uniquement aux membres autorisés d’accéder aux ressources du projet telles que les données ou les applications d’IA générative, et d’ainsi garantir la confidentialité et la conformité des données, pour favoriser une collaboration et un partage interfonctionnels sécurisés. En outre, les applications d’IA générative peuvent être partagées par un créateur avec des utilisateurs spécifiques du domaine Amazon SageMaker Unified Studio, ou avec des personnes spécifiques, ce qui permet de garantir des droits d’accès, des contrôles et une gouvernance appropriés pour ces ressources.

L’intégration d’Amazon Bedrock IDE à Amazon SageMaker Unified Studio représente la volonté d’AWS de simplifier et de rationaliser le développement de l’IA générative. Cette intégration crée un environnement complet qui élimine les barrières entre les données, les outils et les développeurs, permettant ainsi de créer et de déployer efficacement des applications d’IA générative.

L’environnement unifié permet une collaboration fluide entre les développeurs de différents niveaux de compétence tout au long du cycle de développement, de la préparation des données au développement de modèles et à la création d’applications d’IA générative. Les équipes peuvent accéder à des outils intégrés pour la création de bases de connaissances, l’optimisation de modèles et le développement d’applications d’IA générative hautement performantes, le tout dans un cadre sécurisé et régi.

Dans Amazon SageMaker Unified Studio, les développeurs peuvent facilement passer d’un outil à l’autre en fonction de leurs besoins, en combinant des fonctionnalités d’analytique, de machine learning et d’IA générative dans un seul espace de travail. Cette approche consolidée réduit la complexité du développement et accélère le délai de rentabilisation des projets d’IA générative.

En intégrant Amazon Bedrock IDE à Amazon SageMaker Unified Studio, AWS réduit les obstacles à l’entrée pour le développement de l’IA générative tout en maintenant une sécurité et une gouvernance de niveau professionnel, permettant ainsi aux organisations d’innover plus rapidement et plus efficacement grâce à l’IA générative.
 

Amazon Bedrock Studio est actuellement disponible en tant que fonctionnalité en version préliminaire accessible via la Console de gestion AWS. Désormais, Amazon Bedrock Studio a été renommé Amazon Bedrock IDE et est disponible en version préliminaire dans Amazon SageMaker Unified Studio. Il fournit un environnement dédié à la création, à l’évaluation et au partage d’applications d’IA générative dotées de fonctionnalités avancées telles que Knowledge Bases, Guardrails, Agents, Flows et des outils d’ingénierie de requête. Cette intégration à Amazon SageMaker Unified Studio offre une expérience de développement plus riche en fonctionnalités, gérée et collaborative par rapport à la version préliminaire précédente de la Console de gestion AWS.

L’intégralité d’Amazon Bedrock Studio fait partie d’Amazon SageMaker Unified Studio sous Amazon Bedrock IDE. Le Generative AI Playground, disponible dans la section « Découvrir » d’Amazon SageMaker Unified Studio, vous permet d’expérimenter des modèles de fondation (FM) et toutes les applications d’IA générative partagées par vos collègues via une interface conversationnelle. Amazon Bedrock IDE, l’environnement d’applications d’IA générative complet, se trouve dans la section « Créer » d’Amazon SageMaker Unified Studio et est accessible via des projets.

En ce qui concerne le moment d’utiliser chaque offre :

• Amazon Bedrock Studio existant dans la Console de gestion AWS : vous pouvez continuer à utiliser l’Amazon Bedrock Studio existant dans la console AWS pour les projets en cours jusqu’au 28/02/2025, date à laquelle le support prendra fin. Vous devrez configurer un nouveau domaine Amazon SageMaker qui inclut Amazon Bedrock IDE pour y accéder dans l’environnement régi d’Amazon SageMaker.
• Generative AI Playground dans Amazon SageMaker Unified Studio (section Découvrir) : utilisez les terrains de jeu de discussion, d’images et de vidéos pour effectuer de premières expériences avec les FM, tester différents modèles et configurations avant de créer des applications dans Amazon Bedrock IDE.
• Amazon Bedrock IDE dans Amazon SageMaker Unified Studio (section Créer) : utilisez Amazon Bedrock IDE, disponible dans la section Créer, pour tirer parti des fonctionnalités avancées de création d’applications d’IA générative prêtes à être utilisées en production. Il s’agit notamment de la gouvernance intégrée, de la collaboration sécurisée, Knowledge Bases, Agents, Flows, Guardrails et des outils d’ingénierie de requête.

Amazon Bedrock IDE est un environnement collaboratif régi axé sur la création d’applications d’IA générative à l’aide de modèles de fondation (FM). En plus d’être intégré à Amazon SageMaker Unified Studio, il fournit une interface intuitive permettant d’accéder aux FM à hautes performances de Bedrock et de les expérimenter, ainsi que des outils de personnalisation tels que Knowledge Bases, Guardrails, Agents et Flows.

Dans Amazon SageMaker Unified Studio, Amazon Bedrock IDE s’intègre parfaitement aux fonctionnalités d’analytique, de machine learning (ML) et d’IA générative d’Amazon SageMaker. Les utilisateurs peuvent tirer parti des services d’analytique pour générer des informations à partir de leurs données, créer des modèles de machine learning à l’aide des outils d’entraînement et de déploiement d’Amazon SageMaker AI, et combiner ces composants avec des applications d’IA générative créées dans Amazon Bedrock IDE. Cet environnement unifié permet le développement de bout en bout d’applications basées sur les données qui combinent des fonctionnalités d’analytique, de machine learning et d’IA générative. Les utilisateurs peuvent créer et déployer des modèles de machine learning et d’IA générative, créer et partager des applications d’IA génératives adaptées à l’aide de données propriétaires et de personnalisations, mais aussi rationaliser la collaboration, le tout dans le même environnement Amazon SageMaker Unified Studio régi.
 

Les utilisateurs existants d’Amazon Bedrock Studio qui ont accédé au service via la Console de gestion AWS ne peuvent pas migrer directement leurs projets vers Amazon SageMaker Unified Studio. Pour accéder à Amazon Bedrock IDE dans l’environnement géré par Amazon SageMaker, les développeurs et leurs administrateurs devront créer un domaine dans Amazon SageMaker Unified Studio, activer le profil de projet de développement d’applications d’IA générative et accéder à Amazon Bedrock IDE à l’aide des informations d’identification pour l’authentification unique (SSO) de leur entreprise dans Amazon SageMaker Unified Studio.

Les utilisateurs existants peuvent toutefois continuer à accéder à Amazon Bedrock Studio (version préliminaire) via la Console de gestion AWS jusqu’au 28/02/2025. Après cette date, ils devront passer à la nouvelle expérience Amazon Bedrock IDE au sein d’Amazon SageMaker Unified Studio.

Amazon Bedrock IDE intégré à Amazon SageMaker Unified Studio est soumis aux limites de compte et aux quotas définis pour la plateforme et les ressources Amazon Bedrock sous-jacentes, telles que les modèles de fondation (FM), Knowledge Bases, Agents, Flows et Guardrails.

Amazon Bedrock IDE est gratuit et les utilisateurs ne paient que pour l’utilisation des ressources sous-jacentes requises par les applications d’IA générative qu’ils créent. Par exemple, les clients ne paieront que pour le modèle, le garde-fou et la base de connaissances associés qu’ils ont utilisés dans leur application d’IA générative. Pour en savoir plus, consultez la page Tarification Amazon Bedrock.

Amazon Bedrock IDE intégré à Amazon SageMaker Unified Studio est lié par les mêmes SLA qu’Amazon Bedrock. Pour plus d’informations, consultez la page Accord de niveau de service Amazon Bedrock.

Pour faciliter l’intégration à Amazon Bedrock IDE dans Amazon SageMaker Unified Studio, vous trouverez une documentation détaillée dans le Guide de l’utilisateur d’Amazon Bedrock IDE. Si vous avez d’autres questions ou si vous avez besoin d’une assistance supplémentaire, n’hésitez pas à contacter l’équipe responsable de votre compte AWS.