AWS Bedrock
Modèles de fondation sur AWS via l'API Converse
Vendor ID : bedrock · Maturité : préversion · Catégories : IA
AWS Bedrock — accès géré aux modèles de fondation via l'API Converse. Protocole de communication : bedrock-converse-v1.
Authentification
| Identifiant | Remarques |
|---|---|
apiKey | Clé API AWS Bedrock. La région est configurée par extension. |
Capacités
| Capacité | Modèle par défaut | Protocole de communication |
|---|---|---|
| LLM | anthropic.claude-3-5-sonnet-20241022-v2:0 | bedrock-converse-v1 |
L'ID de modèle est une chaîne au format Bedrock (<provider>.<model>-<version>). Les modèles sont découverts dynamiquement via le point de terminaison de listing de Bedrock.
Streaming
Les tours en streaming appellent ConverseStream de Bedrock et livrent le texte, le raisonnement et les appels d'outils de manière incrémentale. L'identité IAM derrière l'identifiant doit disposer de bedrock:InvokeModelWithResponseStream en plus de bedrock:InvokeModel. Sans cette autorisation, les tours en streaming échouent avec FORBIDDEN tandis que les tours unaires réussissent.
Une erreur signalée par Bedrock après l'ouverture du flux (limitation de débit, validation, erreur de flux du modèle) termine le tour avec le code d'erreur plateforme correspondant, par exemple RATE_LIMITED pour throttlingException. La réponse partielle n'est jamais renvoyée comme complète.