Domande frequenti su Amazon Bedrock

Gli agenti di Amazon Bedrock sono funzionalità completamente gestite che semplificano la creazione di applicazioni di IA generativa in grado di completare attività per un'ampia gamma di casi d'uso e fornire risposte aggiornate basate su fonti di conoscenza proprietarie. In pochi passaggi, gli agenti di Amazon Bedrock suddividono automaticamente le attività e creano un piano di orchestrazione, senza alcuna codifica manuale. L'agente si connette in modo sicuro ai dati aziendali tramite un'API, convertendo automaticamente i dati in un formato leggibile dalla macchina e arricchendo la richiesta con informazioni pertinenti per generare la risposta più accurata. Gli agenti possono quindi chiamare automaticamente le API per soddisfare la richiesta di un utente. Ad esempio, un'azienda manifatturiera potrebbe voler sviluppare un'applicazione di IA generativa che automatizzi il monitoraggio dei livelli di inventario, dei dati di vendita, delle informazioni sulla catena di approvvigionamento e che possa consigliare punti e quantità di riordino ottimali per massimizzare l'efficienza. In quanto funzionalità completamente gestite, gli agenti di Amazon Bedrock rimuovono l'indifferenziato problema della gestione dell'integrazione dei sistemi e del provisioning dell'infrastruttura, consentendo agli sviluppatori di utilizzare appieno l'IA generativa in tutta l'organizzazione.

Puoi connettere in modo sicuro gli FM alle origini dati aziendali utilizzando gli agenti di Amazon Bedrock. Grazie alla knowledge base della tua azienda, puoi utilizzare gli agenti per fornire ai FM di Amazon Bedrock l'accesso ai dati che aiutano il modello a generare risposte più pertinenti, specifiche del contesto e accurate senza riqualificare continuamente l'FM. In base all'input dell'utente, gli agenti identificano la knowledge base appropriata, recuperano le informazioni pertinenti e aggiungono le informazioni al prompt di input, fornendo al modello ulteriori informazioni contestuali per generare un completamento.

Gli agenti di Amazon Bedrock possono aiutarti ad aumentare la produttività, migliorare l'esperienza del servizio clienti e automatizzare i flussi di lavoro (quali l'elaborazione dei reclami assicurativi).

Con gli agenti, gli sviluppatori hanno un supporto perfetto per il monitoraggio, la crittografia, le autorizzazioni utente, il controllo delle versioni e la gestione delle invocazioni API senza scrivere codice personalizzato. Gli agenti di Amazon Bedrock automatizzano la progettazione dei prompt e l'orchestrazione delle attività richieste dagli utenti. Gli sviluppatori possono utilizzare il modello di prompt creato dall'agente come base per perfezionarlo ulteriormente e ottenere un'esperienza utente migliorata. Possono aggiornare l'input dell'utente, il piano di orchestrazione e la risposta dell'FM. Con l'accesso al modello di prompt, gli sviluppatori hanno un migliore controllo sull'orchestrazione dell'agente.

Con gli agenti completamente gestiti, non devi preoccuparti del provisioning o della gestione dell'infrastruttura e puoi portare le applicazioni in produzione più rapidamente.

Qualsiasi contenuto del cliente elaborato da Amazon Bedrock viene crittografato e archiviato inattivo nella regione AWS in cui utilizzi Amazon Bedrock.

No. Gli input degli utenti e gli output del modello non sono condivisi con nessun fornitore di modelli.

Amazon Bedrock offre diverse funzionalità per supportare i requisiti di sicurezza e privacy. Amazon Bedrock è soggetto a standard di conformità comuni come l'idoneità al Fedramp Moderate, Service and Organization Control (SOC), International Organization for Standardization (ISO), Health Insurance Portability and Accountability Act (HIPAA) e i clienti possono utilizzare Bedrock in conformità al Regolamento generale sulla protezione dei dati (GDPR). Amazon Bedrock è incluso nell'ambito dei report SOC 1, 2, 3, che consentono ai clienti di ottenere informazioni sui nostri controlli di sicurezza. Dimostriamo la conformità attraverso verifiche approfondite di terze parti dei nostri controlli AWS. Amazon Bedrock è uno dei servizi AWS conformi agli standard ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301 e ISO 20000. Amazon Bedrock è certificato CSA Security Trust Assurance and Risk (STAR) di livello 2, che convalida l'uso delle migliori pratiche e il livello di sicurezza delle offerte cloud AWS. Con Amazon Bedrock, i tuoi contenuti non vengono utilizzati per migliorare i modelli di base e non vengono condivisi con nessun fornitore di modelli. Puoi utilizzare AWS PrivateLink per stabilire una connettività privata dal tuo VPC Amazon ad Amazon Bedrock, senza dover esporre i tuoi dati al traffico Internet.

 

No, AWS e i fornitori di modelli di terze parti non utilizzeranno alcun input o output di Amazon Bedrock per addestrare Amazon Titan o altri modelli di terze parti.

Amazon Bedrock supporta gli SDK per i servizi di runtime. Gli SDK iOS e Android, oltre a quelli Java, JS, Python, CLI, .Net, Ruby, PHP, Go e C++, supportano sia l'input di testo che quello vocale.

Lo streaming è supportato per tutti gli SDK.

Consulta la pagina dei prezzi di Amazon Bedrock per informazioni aggiornate sui prezzi.

A seconda del contratto di Supporto AWS scelto, per Amazon Bedrock sono disponibili i piani di supporto Developer, Business ed Enterprise.

Puoi utilizzare i parametri di CloudWatch per tracciare i token di input e output.

Abbiamo avviato il pre-addestramento continuo per i modelli Amazon Titan Text Express e Amazon Titan su Amazon Bedrock. Il pre-addestramento continuo consente di continuare il pre-addestramento su un modello base di Amazon Titan utilizzando grandi quantità di dati non etichettati. Questo tipo di addestramento adatterà il modello da un corpus di dominio generale a un corpus di dominio più specifico come medico, legale, finanziario e così via pur preservando la maggior parte delle funzionalità del modello base Amazon Titan. 

Le aziende potrebbero voler creare modelli per attività in un dominio specifico. I modelli base potrebbero non essere addestrati sul gergo tecnico utilizzato in quel dominio specifico. Pertanto, la messa a punto diretta del modello base richiede grandi quantità di record di addestramento etichettati e una formazione di lunga durata per ottenere risultati accurati. Per alleggerire questo onere, il cliente può invece fornire grandi quantità di dati non etichettati per un lavoro di pre-addestramento continuo. Questo lavoro adatterà il modello base Amazon Titan al nuovo dominio. Quindi il cliente può adattare il nuovo modello personalizzato pre-addestrato alle attività a valle utilizzando un numero significativamente inferiore di record di addestramento etichettati e con una durata di addestramento inferiore. 

Pre-addestramento continuo e Messa a punto di Amazon Bedrock hanno requisiti molto simili. Per questo motivo, stiamo scegliendo di creare API unificate che supportino sia il pre-addestramento continuo che la messa a punto. L'unificazione delle API riduce la curva di apprendimento e aiuterà i clienti a utilizzare funzionalità standard come Amazon EventBridge per tenere traccia dei lavori di lunga durata, l'integrazione Amazon S3 per il recupero dei dati di addestramento, i tag delle risorse e la crittografia dei modelli. 

La funzionalità pre-addestramento continuo consente di adattare i modelli Amazon Titan ai dati specifici del dominio, preservando al contempo le funzionalità di base dei modelli Amazon Titan. Per creare un lavoro di pre-addestramento continuo, accedi alla console di Amazon Bedrock e fai clic su “Modelli personalizzati”. Passerai alla pagina del modello personalizzato che contiene due schede: Modelli e Lavori di addestramento. Entrambe le schede forniscono un menu a discesa sulla destra chiamato “Personalizza modello”. Seleziona “Pre-addestramento continuo” dal menu a discesa per accedere a “Crea lavoro di pre-addestramento continuo”. Fornirai il modello di origine, il nome, la crittografia del modello, i dati di input, gli iperparametri e i dati di output. Inoltre, puoi fornire tag insieme a dettagli sui ruoli di AWS Identity and Access Management (IAM) e sulle policy delle risorse per il lavoro.

In esclusiva per Amazon Bedrock, la famiglia di modelli Amazon Titan incorpora i 25 anni di esperienza di Amazon nell'innovazione con l'intelligenza artificiale e il machine learning in tutta l'attività. I modelli di fondazione di Amazon Titan offrono ai clienti un'ampia gamma di modelli di immagini, multimodali e di testo ad alte prestazioni, tramite un'API completamente gestita. I modelli Amazon Titan sono creati da AWS e pre-addestrati su set di dati di grandi dimensioni, il che li rende modelli potenti e generici creati per supportare una varietà di casi d'uso, supportando al contempo l'uso responsabile dell'intelligenza artificiale. Usali così come sono o personalizzali privatamente con i tuoi dati. Scopri di più su Amazon Titan.

Per ulteriori informazioni sui dati elaborati per sviluppare e addestrare gli FM di Amazon Titan, visita la pagina Addestramento e privacy del modello Amazon Titan.

Puoi importare contenuti da varie origini, tra cui il web, Amazon Simple Storage Service (Amazon S3), Confluence (anteprima), Salesforce (anteprima) e SharePoint (anteprima). Puoi anche importare in modo programmatico dati in streaming o dati da origini non supportate. Puoi anche connetterti alle tue origini dati strutturate come il datawarehouse Redshift e il catalogo dati AWS Glue.

Le Knowledge Base di Amazon Bedrock forniscono un linguaggio naturale gestito in SQL per convertire il linguaggio naturale in query SQL utilizzabili e recuperare dati, consentendoti di creare applicazioni utilizzando i dati provenienti da queste origini.

Sì, la gestione del contesto delle sessioni è integrata e consente alle tue applicazioni di mantenere il contesto su più interazioni, essenziale per supportare conversazioni a più turni.

Sì, tutte le informazioni recuperate includono citazioni, il che migliora la trasparenza e riduce al minimo il rischio di allucinazioni nelle risposte generate.

Le Knowledge Base di Amazon Bedrock supportano l'elaborazione multimodale dei dati e consentono agli sviluppatori di creare applicazioni di IA generativa che analizzano sia dati testuali che visivi, tra cui immagini, grafici, diagrammi e tabelle. Le risposte dei modelli possono sfruttare le informazioni provenienti da elementi visivi oltre al testo, fornendo risposte più accurate e contestualmente pertinenti. Inoltre, l'attribuzione dell’origine per le risposte include elementi visivi, che migliorano la trasparenza e la fiducia nelle risposte.

Le Knowledge Base di Amazon Bedrock possono elaborare documenti visivamente ricchi in formato PDF che possono contenere immagini, tabelle, grafici e diagrammi. Per i dati di sola immagine, le Knowledge Base di Bedrock supportano formati di immagine standard come JPEG e PNG e abilitano le funzionalità di ricerca in cui gli utenti possono recuperare immagini pertinenti in base a query basate sul testo.

I clienti hanno tre opzioni di analisi per le Knowledge Base di Bedrock. Per l'elaborazione di solo testo, il parser predefinito integrato Bedrock è disponibile senza costi aggiuntivi, ideale per i casi in cui non è richiesta l'elaborazione multimodale dei dati. Amazon Bedrock Data Automation (BDA) o i modelli di base possono essere utilizzati per analizzare dati multimodali. Per ulteriori informazioni, consulta la documentazione del prodotto. 

La Knowledge Base di Amazon Bedrock gestisce varie complessità del flusso di lavoro, come il confronto dei contenuti, la gestione degli errori, il controllo del throughput e la crittografia, garantendo che i dati vengano elaborati e gestiti in modo sicuro in base ai rigorosi standard di sicurezza di AWS.

Valutazione di modelli su Amazon Bedrock ti consente di valutare, confrontare e selezionare il modello di fondazione migliore per il tuo caso d'uso in pochi passaggi. Amazon Bedrock offre una scelta tra valutazione automatica e valutazione umana. Puoi utilizzare la valutazione automatica con parametri predefiniti come precisione, robustezza e tossicità. Puoi utilizzare i flussi di lavoro di valutazione umana per parametri soggettivi o personalizzati, come cordialità, stile e allineamento alla voce del marchio. Per la valutazione umana, puoi affidarti ai tuoi dipendenti interni o a un team gestito da AWS come revisori. Valutazione di modelli su Amazon Bedrock fornisce set di dati curati integrati, in alternativa puoi fornire i tuoi set di dati.

Puoi valutare diversi parametri predefiniti come precisione, robustezza e tossicità utilizzando valutazioni automatiche. Puoi anche utilizzare i flussi di lavoro di valutazione umana per parametri soggettivi o personalizzati, come cordialità, pertinenza, stile e allineamento alla voce del marchio.

Le valutazioni automatiche consentono di restringere rapidamente l'elenco degli FM disponibili in base a criteri standard (come precisione, tossicità e robustezza). Le valutazioni umane vengono spesso utilizzate per valutare criteri più sfumati o soggettivi che richiedono il giudizio umano e laddove potrebbero non esistere valutazioni automatiche (come la voce del marchio, l'intento creativo, la cordialità).

Puoi valutare rapidamente i modelli Amazon Bedrock in base a parametri quali precisione, robustezza e tossicità usando set di dati integrati curati o fornendo i set di dati richiesti. Dopo che i set di dati richiesti sono stati inviati ai modelli Amazon Bedrock per l'inferenza, le risposte del modello vengono valutate con algoritmi di valutazione per ogni dimensione. Il motore di backend aggrega i singoli punteggi delle risposte alle richieste in punteggi riassuntivi e li presenta attraverso report visivi di facile comprensione.

Amazon Bedrock ti consente di configurare flussi di lavoro di revisione umana in pochi passaggi e coinvolgere i tuoi dipendenti interni o sfruttare un team di esperti gestito da AWS per valutare i modelli. Attraverso l'interfaccia intuitiva di Amazon Bedrock, gli esseri umani possono esaminare e fornire un feedback sulle risposte dei modelli facendo clic sul pollice in alto o in basso, valutando su una scala da 1 a 5, scegliendo la migliore tra più risposte o classificando le richieste. Ad esempio, a un membro del team può essere mostrato come due modelli rispondono alla stessa richiesta e quindi gli viene chiesto di selezionare il modello che mostra risultati più accurati, pertinenti o stilistici. Puoi specificare i criteri di valutazione che ti interessano, personalizzando le istruzioni e i pulsanti da visualizzare nell'interfaccia utente di valutazione del tuo team. Puoi anche fornire istruzioni dettagliate con esempi e l'obiettivo generale della valutazione del modello, in modo che gli utenti possano allineare il loro lavoro di conseguenza. Questo metodo è utile per valutare criteri soggettivi che richiedono un giudizio umano o competenze più approfondite in materia e che non possono essere facilmente giudicati mediante valutazioni automatiche.

I Guardrail di Amazon Bedrock ti aiutano a implementare misure di protezione per le tue applicazioni di IA generativa in base ai casi d'uso e alle policy di IA responsabile. Guardrail consente di controllare l'interazione tra gli utenti e i modelli di fondazione (FM) filtrando i contenuti indesiderati e dannosi e presto eliminerà le informazioni di identificazione personale (PII), migliorando la sicurezza dei contenuti e la privacy nelle applicazioni di IA generativa. È possibile creare più guardrail con diverse configurazioni su misura per casi d'uso specifici. Inoltre, con i guardrail puoi monitorare e analizzare continuamente gli input degli utenti e le risposte degli FM che potrebbero violare le policy definite dal cliente.

Guardrail consente di definire una serie di policy per contribuire a salvaguardare le applicazioni di IA generativa. In un guardrail è possibile configurare le seguenti policy.

• Verifiche contestuali di base: ti consente di rilevare e filtrare le allucinazioni se le risposte non sono adeguate (ad esempio, informazioni nuove o di fatto inesatte) rispetto alle informazioni di origine e non sono pertinenti alla domanda o alle istruzioni immesse dall'utente.
• Controlli di ragionamento automatico: aiutano a rilevare imprecisioni fattuali nei contenuti generati, suggeriscono correzioni e illustrano perché le risposte sono accurate confrontandole con una rappresentazione strutturata e matematica della conoscenza chiamata policy di ragionamento automatico.
• Filtri per i contenuti: ti aiutano a configurare le soglie per rilevare e filtrare i contenuti di testo dannosi in categorie come odio, insulti, sesso, violenza, condotta sconveniente e attacchi di prompt. Inoltre, i filtri per i contenuti possono rilevare e filtrare contenuti di immagini dannosi in queste categorie, contribuendo così a creare applicazioni multimodali sicure.
• Argomenti negati: consente di definire una serie di argomenti indesiderati nel contesto dell'applicazione. Ad esempio, un assistente bancario online può essere progettato per astenersi dal fornire consulenza in materia di investimenti.
• Filtri delle parole: consente di definire una serie di parole da bloccare negli input degli utenti e nelle risposte generate dagli FM.
• Filtro per informazioni sensibili: ti aiuta a reagire a informazioni sensibili come una serie di PII che possono essere oscurate nelle risposte generate da FM. In base al caso d'uso, i guardrail possono anche aiutarti a bloccare l'input di un utente se contiene informazioni di identificazione personale.

I Guardrail di Amazon Bedrock funzionano con un'ampia gamma di modelli, inclusi FM supportati in Amazon Bedrock, modelli ottimizzati e modelli con hosting autonomo esterni ad Amazon Bedrock. Gli input degli utenti e gli output dei modelli possono essere valutati in modo indipendente per modelli di terzi e con hosting autonomo utilizzando l'API ApplyGuardrail. I Guardrail di Amazon Bedrock possono anche essere integrati con gli agenti Amazon Bedrock e le Knowledge Base di Amazon Bedrock per creare applicazioni di IA generativa sicure in linea con le policy di IA responsabile della tua azienda.

AWS offre un indennizzo non limitato alla proprietà intellettuale (IP) per le richieste di copyright derivanti dall'output generativo dei seguenti servizi di IA generativa di Amazon generalmente disponibili: modelli Amazon Titan e altri servizi elencati nella Sezione 50.10 dei Termini del servizio (i “servizi di IA generativa indennizzati”). Ciò significa che i clienti sono protetti da richieste di risarcimento da parte di terzi per violazione del copyright da parte dell'output generato dai servizi di IA generativa indennizzati in risposta a input o altri dati forniti dal cliente. I clienti devono inoltre utilizzare i servizi in modo responsabile, ad esempio non inserendo dati in violazione o disabilitando le funzionalità di filtro di un servizio.

Esistono cinque policy di guardrail, ciascuna con diverse protezioni pronte all'uso

• Filtri di contenuto: sono disponibili 6 categorie predefinite (odio, insulti, sesso, violenza, cattiva condotta - inclusa attività criminale) e attacco immediato (violazione e iniezione immediata). Ogni categoria può avere soglie ulteriormente personalizzate in termini di aggressività del filtraggio: bassa/media/alta sia per il contenuto testuale che per quello di immagini.
• Argomento negato: si tratta di argomenti personalizzati che il cliente può definire utilizzando una semplice descrizione in linguaggio naturale
• Filtro per informazioni sensibili: include oltre 30 informazioni di identificazione personale pronte all'uso. Può essere ulteriormente personalizzato aggiungendo informazioni proprietarie sensibili del cliente.
• Filtri per parole: viene fornito con filtri per parolacce pronti all'uso e può essere ulteriormente personalizzato con parole personalizzate.
• Controlli di base contestuali: possono consentire di rilevare allucinazioni per applicazioni RAG, di riepilogo e di conversazione, in cui le informazioni di origine possono essere utilizzate come riferimento per convalidare la risposta del modello.

Esistono cinque policy di guardrail, ciascuna con diverse protezioni pronte all'uso

• Filtri di contenuto: sono disponibili 6 categorie predefinite (odio, insulti, sesso, violenza, cattiva condotta - inclusa attività criminale) e attacco immediato (violazione e iniezione immediata). Ogni categoria può avere soglie ulteriormente personalizzate in termini di aggressività del filtraggio: bassa/media/alta.
• Argomento negato: si tratta di argomenti personalizzati che il cliente può definire utilizzando una semplice descrizione in linguaggio naturale
• Filtro per informazioni sensibili: include oltre 30 informazioni di identificazione personale pronte all'uso. Può essere ulteriormente personalizzato aggiungendo informazioni proprietarie sensibili del cliente.
• Filtri per parole: viene fornito con filtri per parolacce pronti all'uso e può essere ulteriormente personalizzato con parole personalizzate.
• Controlli di base contestuali: possono consentire di rilevare allucinazioni per applicazioni RAG, di riepilogo e di conversazione, in cui le informazioni di origine possono essere utilizzate come riferimento per convalidare la risposta del modello.

I modelli di fondazione hanno protezioni native e sono le protezioni predefinite associate a ciascun modello. Queste protezioni native NON fanno parte dei Guardrail di Amazon Bedrock. I Guardrail di Amazon Bedrock rappresentano un ulteriore livello di protezioni personalizzate che possono essere applicate opzionalmente dal cliente in base ai requisiti applicativi e alle politiche di IA responsabile.

Come parte dei Guardrail di Amazon Bedrock, l'SSN e il rilevamento dei numeri di telefono fanno parte degli oltre 30 PII pronti all'uso. L'elenco completo è disponibile qui.

C'è un costo separato per l'utilizzo di Guardrail di Amazon Bedrock. Può essere applicato sia per l'input che per l'output. I prezzi sono riportati in fondo alla pagina qui. Il prezzo per il supporto delle immagini con filtri dei contenuti (attualmente in anteprima pubblica) verrà annunciato durante la disponibilità generale (GA).

C'è un costo separato per l'utilizzo di Guardrail di Amazon Bedrock. Può essere applicato sia per l'input che per l'output. I prezzi sono riportati in fondo alla pagina qui.

Sì, le API Guardrail di Amazon Bedrock aiutano i clienti a eseguire test automatici. Il "test case builder" potrebbe essere qualcosa da utilizzare prima di implementare i guardrail in produzione. Non esiste ancora un "test case builder" nativo. Per il monitoraggio continuo del traffico di produzione, i guardrail forniscono log dettagliati di tutte le violazioni per ogni input e output, in modo che i clienti possano monitorare in modo granulare ogni input in entrata e in uscita dalla loro applicazione di IA generativa. Questi log possono essere archiviati in CloudWatch o S3 e possono essere utilizzati per creare dashboard personalizzate in base alle esigenze dei clienti.

Utilizzando una policy di ragionamento automatico, i controlli di ragionamento automatico possono evidenziare sia affermazioni accurate che inesattezze fattuali nei contenuti. Sia per le affermazioni accurate che per quelle inaccurate, il controllo del ragionamento automatico fornisce spiegazioni logiche e verificabili per il rispettivo output. Il controllo del ragionamento automatico richiede il coinvolgimento iniziale di un esperto del dominio per creare una policy e supporta solo i contenuti che definiscono le regole. D'altra parte, i controlli di base contestuali in Bedrock Guardrails utilizzano tecniche di machine learning per garantire che il contenuto generato segua da vicino i documenti forniti come input da una knowledge base, senza richiedere alcun lavoro iniziale aggiuntivo. Sia i controlli di ragionamento automatizzati che la base contestuale forniscono il loro feedback nell'output dell'API guardrail. Puoi utilizzare il feedback per aggiornare il contenuto generato.

Amazon Bedrock Marketplace offre ai clienti più di 100 modelli popolari, emergenti o specializzati, oltre agli FM serverless di Amazon Bedrock, affinché i clienti possano creare e ottimizzare facilmente le proprie applicazioni di IA generativa. All'interno della console Amazon Bedrock, i clienti potranno scoprire un ampio catalogo di FM proposti da vari fornitori. Puoi quindi distribuire questi modelli su endpoint completamente gestiti, dove puoi scegliere il numero desiderato di istanze e tipi di istanze. Una volta distribuiti, i modelli sono accessibili tramite l'API Invoke di Amazon Bedrock. Per i modelli text-to-text ottimizzati per la chat, i clienti possono utilizzare la nostra nuova API Converse, un'API unificata che astrae le differenze di FM e consente il cambio di modello con un’unica modifica dei parametri. Ove pertinente, i modelli possono essere utilizzati con Playground, agenti, Knowledge Base, gestione dei prompt, flussi di prompt, guardrail e valutazione di modelli di Amazon Bedrock.

Utilizzare Amazon Bedrock Marketplace consente di beneficiare dei potenti modelli che stanno rapidamente emergendo man mano che il settore dell'IA generativa continua a innovare. Puoi accedere e implementare rapidamente modelli popolari, emergenti e specializzati su misura per le tue esigenze specifiche, che possono accelerare il time-to-market, migliorare la precisione o ridurre il costo dei flussi di lavoro dell’IA generativa. Puoi accedere ai modelli tramite le API unificate di Bedrock e, se sono compatibili con l'API Converse di Bedrock, utilizzarli in modo nativo con strumenti Bedrock come agenti, Knowledge Base e guardrail. Puoi connettere facilmente Amazon Bedrock Marketplace ai modelli serverless di Amazon Bedrock, il tutto da un unico punto.
 

È sufficiente accedere alla pagina del catalogo modello di Amazon Bedrock nella console Bedrock dove puoi cercare gli elenchi di modelli Amazon Bedrock Marketplace insieme ai modelli Amazon Bedrock serverless. Dopo aver selezionato il modello Amazon Bedrock Marketplace che desideri utilizzare, puoi abbonarti al modello tramite la pagina dei dettagli del modello, accettando l'EULA e i prezzi fissati dal fornitore. Una volta completata la procedura di abbonamento, che in genere richiede alcuni minuti, puoi implementare il modello su un endpoint SageMaker completamente gestito facendo clic su Implementa nella pagina dei dettagli del modello o utilizzando le API. Nella fase di implementazione, puoi selezionare il numero desiderato di istanze e tipi di istanze per soddisfare il tuo carico di lavoro. Una volta configurato l'endpoint, operazione che richiede in genere 10-15 minuti, puoi iniziare a effettuare chiamate di inferenza all'endpoint e utilizzare il modello negli strumenti avanzati di Bedrock, a condizione che il modello sia compatibile con l'API Converse di Bedrock.

I modelli con architetture supportate da Custom Model Import (Mistral, Mixtral, Flan e Llama2/3/3.1/3.2) possono essere ottimizzati in SageMaker e resi disponibili in Amazon Bedrock tramite Custom Model Import. I modelli che non sono supportati da Custom Model Import possono comunque essere ottimizzati in SageMaker. Tuttavia, la versione ottimizzata di questi modelli non può essere utilizzata in Amazon Bedrock.

Cos'è Bedrock Data Automation? Amazon Bedrock Data Automation è una funzionalità di Bedrock basata sull’IA generativa che semplifica lo sviluppo di applicazioni di IA generativa e automatizza i flussi di lavoro che riguardano documenti, immagini, audio e video. Sfruttando Bedrock Data Automation, gli sviluppatori possono ridurre i tempi e le attività di sviluppo, semplificando la creazione di elaborazione intelligente dei documenti, l'analisi multimediale e altre soluzioni di automazione multimodali incentrate sui dati. Bedrock Data Automation offre una precisione leader del settore a costi inferiori rispetto alle soluzioni alternative, insieme a funzionalità come la base visiva con punteggi di affidabilità per la spiegabilità e il contenimento delle allucinazioni integrato. Ciò garantisce informazioni affidabili e accurate da origini dati multimodali non strutturate. I clienti possono personalizzare facilmente l'output di Bedrock Data Automation per generare informazioni specifiche nei formati coerenti richiesti dai loro sistemi e delle loro applicazioni. Gli sviluppatori iniziano a usare Bedrock Data Automation sulla console Amazon Bedrock, dove possono configurare e personalizzare l'output utilizzando i loro dati di esempio. Possono quindi integrare l'API di inferenza multimodale unificata di Bedrock Data Automation nelle loro applicazioni per elaborare i loro contenuti non strutturati su scala di produzione con elevata precisione e uniformità. Bedrock Data Automation è inoltre integrato con le Knowledge Base di Bedrock, il che facilita agli sviluppatori generare informazioni significative dai loro contenuti multimodali non strutturati per fornire risposte più pertinenti per la generazione potenziata tramite recupero (RAG).

Bedrock Data Automation semplifica la trasformazione dei dati aziendali non strutturati in formati di output specifici per applicazione che possono essere utilizzati dalle applicazioni di IA generativa e dai flussi di lavoro ETL. I clienti non devono più dedicare tempo e fatica alla gestione e all'orchestrazione di più modelli, istruzioni di progettazione, implementazione di guardrail di sicurezza o unione degli output per allinearli ai requisiti di sistema a valle. Bedrock Data Automation offre un'elaborazione estremamente accurata, uniforme e conveniente dei dati non strutturati. Bedrock Data Automation è stato progettato pensando all'IA responsabile, fornendo ai clienti funzionalità chiave come fondamenti visivi e punteggi di fiducia che facilitano l'integrazione di Bedrock Data Automation nei flussi di lavoro aziendali.

Le funzionalità di Bedrock Data Automation sono disponibili tramite un'API completamente gestita che i clienti possono integrare facilmente nelle loro applicazioni. I clienti non devono preoccuparsi di ridimensionare le risorse di calcolo sottostanti, selezionare e orchestrare modelli o gestire prompt per i FM.

Un blueprint è una funzionalità che i clienti utilizzano per specificare i propri requisiti di output utilizzando il linguaggio naturale o un editor di schemi. Comprende un elenco di campi che desiderano estrarre, un formato di dati per ciascun campo e istruzioni in linguaggio naturale per ciascun campo. Ad esempio, gli sviluppatori possono digitare “Crea un blueprint per le fatture con i seguenti campi: imposta, data di scadenza, data di ricezione” o “Conferma che il totale della fattura corrisponda alla somma delle voci di riga”. Fanno riferimento ai blueprint nell’ambito delle chiamate API di inferenza, affinché il sistema restituisca le informazioni nel formato descritto nel blueprint.

Documenti

Bedrock Data Automation supporta sia l'output standard che l'output personalizzato per i documenti.

• L'output standard fornirà l'estrazione di testo dai documenti e l'output generativo come il riepilogo dei documenti e le didascalie per tabelle/figure/diagrammi. L'output viene restituito in ordine di lettura e può essere facoltativamente raggruppato per elemento di layout, ovvero intestazioni/piè di pagina/titoli/tabelle/figure/diagrammi. L'output standard verrà utilizzato per l'integrazione di BDA con le Knowledge Base di Bedrock.
• L'output personalizzato sfrutta i blueprint, che specificano i requisiti di output utilizzando il linguaggio naturale o un editor di schemi. I blueprint includono un elenco di campi da estrarre e un formato di dati per ogni campo.

Bedrock Data Automation garantisce il supporto di PDF, PNG, JPG, TIFF, un massimo di 100 pagine e una dimensione massima del file di 500 MB per richiesta API. BDA assicura il supporto per una simultaneità massima di 5 pacchetti di documenti e un throughput di 1 pagina al secondo per cliente.

Immagini
Bedrock Data Automation supporta sia l'output standard che l'output personalizzato per le immagini.

• L'output standard fornisce riepilogo, contenuto esplicito rilevato, testo rilevato e tassonomia degli annunci: IAB per le immagini. L'output standard verrà utilizzato per l'integrazione di BDA con le Knowledge Base di Bedrock.
• L'output personalizzato sfrutta i blueprint, che specificano i requisiti di output utilizzando il linguaggio naturale o un editor di schemi. I blueprint includono un elenco di campi da estrarre e un formato di dati per ogni campo.

Bedrock Data Automation assicura il supporto di JPG, PNG, una risoluzione massima di 4K e una dimensione massima del file di 5 MB per richiesta API. BDA garantisce il supporto di una simultaneità massima di 100 immagini a 1 immagine al secondo per cliente.

Video

Bedrock Data Automation supporta sia l'output standard che l'output personalizzato per i video.

• L'output standard assicura un riepilogo completo del video, la segmentazione delle scene, un riepilogo scene, la trascrizione audio completa, l'identificazione dell'oratore, il contenuto esplicito rilevato, il testo rilevato e la tassonomia dell'Interactive Advertising Bureau (IAB) per i video. Il riepilogo video completo è ottimizzato per contenuti con dialoghi descrittivi come panoramiche di prodotti, corsi di formazione, notiziari e documentari.

Bedrock Data Automation assicura il supporto di MOV e MKV con H.264, una durata video massima di 4 ore e una dimensione massima del file di 2 GB per richiesta API. BDA garantisce il supporto per una simultaneità massima di 25 video a 20 minuti video al minuto per cliente.

Audio

Bedrock Data Automation supporta sia l'output standard che l'output personalizzato per l’audio.

• L'output standard assicura riepilogo, trascrizione completa e contenuto esplicito rilevato per i file audio.

Bedrock Data Automation assicura il supporto per FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, una durata audio massima di 4 ore e una dimensione massima del file di 2 GB per richiesta API. L'output standard assicura riepilogo, trascrizione completa e contenuto esplicito rilevato per i file audio.

Amazon Bedrock Data Automation è al momento disponibile nella regione Stati Uniti occidentali (Oregon).

Amazon Bedrock IDE (anteprima) è un ambiente collaborativo governato integrato in Amazon SageMaker Unified Studio (anteprima) che consente agli sviluppatori di creare e iterare rapidamente applicazioni di IA generativa utilizzando modelli di fondazione (FM) ad alte prestazioni. Fornisce un'interfaccia intuitiva per sperimentare questi modelli, collaborare su progetti e semplificare l'accesso a vari strumenti e risorse Bedrock per creare rapidamente applicazioni di IA generativa.

Per accedere a Amazon Bedrock IDE in Amazon SageMaker Unified Studio, gli sviluppatori e i relativi amministratori dovranno attenersi ai seguire passaggi:

1. Crea un nuovo dominio in Amazon SageMaker Unified Studio.
2. Abilita il profilo del progetto di sviluppo dell'applicazione di IA generativa.
3. Accedi ad Amazon Bedrock IDE utilizzando le credenziali Single Sign-on (SSO) dell’azienda all'interno di Amazon SageMaker Unified Studio.

Amazon Bedrock IDE, ora integrato in Amazon SageMaker Unified Studio, si basa su Amazon Bedrock Studio (anteprima) con diversi miglioramenti chiave. Fornisce l'accesso a modelli di IA avanzati di aziende leader, strumenti per la creazione e il test di prompt AI e un'integrazione perfetta con basi di conoscenza Bedrock, guardrail, flussi e agenti. I team possono collaborare in uno spazio di lavoro condiviso per creare applicazioni AI personalizzate su misura per le proprie esigenze.

Le nuove funzionalità di Bedrock IDE includono un hub modello per il confronto affiancato dei modelli di AI, un Playground ampliato che supporta le interazioni di chat, immagini e video e una migliore creazione della Knowledge Base con web crawling. Esse introducono la creazione di agenti per applicazioni di chat più complesse e semplifica la condivisione di app e prompt di AI all'interno delle organizzazioni. Bedrock IDE offre anche l'accesso al codice dell'applicazione sottostante e la possibilità di esportare le app di chat come modelli CloudFormation. Gestendo i dettagli dell'infrastruttura AWS, consente agli utenti con vari livelli di competenza di creare applicazioni AI in modo più efficiente, che lo rendono uno strumento più versatile e potente rispetto al suo predecessore.

Amazon Bedrock IDE consente la collaborazione tra i team fornendo un ambiente di sviluppo governato all'interno di Amazon SageMaker Unified Studio. I team possono creare progetti, invitare colleghi e creare insieme in modo collaborativo applicazioni di IA generativa. Possono ricevere un rapido feedback sui loro prototipi e condividere le applicazioni con chiunque in Amazon SageMaker Unified Studio o con utenti specifici nel dominio. Solidi controlli di accesso e funzionalità di governance consentono unicamente ai membri autorizzati di accedere alle risorse del progetto come dati o applicazioni di IA generativa, supportando la privacy e la conformità dei dati e favorendo così la collaborazione e la condivisione interfunzionali sicure. Inoltre, le applicazioni di IA generativa possono essere condivise tra un costruttore e utenti specifici nel dominio Amazon SageMaker Unified Studio o con individui specifici, per poter usufruire di accesso, controlli e governance adeguati di tali risorse.

L'integrazione di Amazon Bedrock IDE in Amazon SageMaker Unified Studio rappresenta la scelta di AWS volta a semplificare e ottimizzare lo sviluppo dell’IA generativa. Questa integrazione crea un ambiente completo che abbatte le barriere tra dati, strumenti e sviluppatori, consentendo la creazione e l'implementazione efficienti di applicazioni di IA generativa.

L'ambiente unificato consente una collaborazione senza interruzioni tra sviluppatori con vari livelli di abilità per tutto il ciclo di vita dello sviluppo, dalla preparazione dei dati allo sviluppo di modelli fino alla creazione di applicazioni di IA generativa. I team possono accedere a strumenti integrati per la creazione di knowledge base, il perfezionamento dei modelli e lo sviluppo di applicazioni di IA generativa ad alte prestazioni, il tutto all'interno di un framework sicuro e governato.

All'interno di Amazon SageMaker Unified Studio, gli sviluppatori possono passare facilmente da uno strumento all'altro in base alle loro esigenze, combinando funzionalità di analisi, machine learning e IA generativa in un unico spazio di lavoro. Questo approccio consolidato riduce la complessità dello sviluppo e accelera il time-to-value per i progetti di IA generativa.

Inserendo Amazon Bedrock IDE in Amazon SageMaker Unified Studio, AWS abbassa le barriere all'ingresso per lo sviluppo di IA generativa, mantenendo sicurezza e governance di livello aziendale e consentendo in ultima analisi alle organizzazioni di innovare più velocemente ed efficacemente con l'IA generativa.
 

Attualmente, Amazon Bedrock Studio è disponibile come funzionalità di anteprima a cui si accede tramite la Console di gestione AWS. Amazon Bedrock Studio è ora stato rinominato Amazon Bedrock IDE ed è disponibile in anteprima all'interno di Amazon SageMaker Unified Studio e fornisce un ambiente dedicato per la creazione, la valutazione e la condivisione di applicazioni di IA generativa con funzionalità avanzate come Knowledge Base, guardrail, agenti, flussi e strumenti di progettazione dei prompt. Questa integrazione in Amazon SageMaker Unified Studio offre un'esperienza di sviluppo più ricca di funzionalità, governata e collaborativa rispetto alla precedente versione di anteprima nella Console di gestione AWS.

Tutto Amazon Bedrock Studio fa parte di Amazon SageMaker Unified Studio in Amazon Bedrock IDE. Il Playground dell’IA generativa, disponibile nella sezione "Discover" di Amazon SageMaker Unified Studio, ti consente di sperimentare modelli di fondazione (FM) e qualsiasi applicazione di IA generativa condivisa dai tuoi colleghi attraverso un'interfaccia conversazionale. Amazon Bedrock IDE, l'ambiente applicativo di IA generativa completo, si trova nella sezione “Build” di Amazon SageMaker Unified Studio ed è accessibile tramite i progetti.

Quando utilizzare ciascuna offerta:

• Amazon Bedrock Studio esistente nella Console di gestione AWS: puoi continuare a utilizzare Amazon Bedrock Studio esistente nella Console AWS per i progetti in corso fino al 28/02/2025, dopodiché il supporto terminerà. Dovrai configurare un nuovo dominio Amazon SageMaker che includa Amazon Bedrock IDE per accedervi all'interno dell'ambiente governato da Amazon SageMaker.
• Playground di IA generativa in Amazon SageMaker Unified Studio (sezione Discover): utilizza i Playground chat, immagini e video per la sperimentazione iniziale con FM, testando diversi modelli e configurazioni prima di creare applicazioni in Amazon Bedrock IDE.
• Amazon Bedrock IDE in Amazon SageMaker Unified Studio (sezione Build): utilizza Amazon Bedrock IDE, disponibile nella sezione Build, per sfruttare le funzionalità avanzate per la creazione di applicazioni di IA generativa pronte per la produzione. Queste includono governance integrata, collaborazione sicura, Knowledge Base, agenti, flussi, guardrail e strumenti di progettazione dei prompt.

Amazon Bedrock IDE è un ambiente collaborativo governato incentrato sulla creazione di applicazioni di IA generativa mediante l’uso di modelli di fondazione (FM). Integrato in Amazon SageMaker Unified Studio, fornisce un'interfaccia intuitiva per accedere e sperimentare con i FM ad alte prestazioni di Bedrock, oltre a strumenti di personalizzazione come Knowledge Base, guardrail, agenti e flussi.

All'interno di Amazon SageMaker Unified Studio, Amazon Bedrock IDE si integra perfettamente con le funzionalità di analisi, machine learning (ML) e IA generativa di Amazon SageMaker. Gli utenti possono sfruttare i servizi di analisi per generare approfondimenti dai propri dati, creare modelli ML utilizzando gli strumenti AI di addestramento e implementazione di Amazon SageMaker e combinare questi componenti con applicazioni di IA generativa create in Amazon Bedrock IDE. Questo ambiente unificato consente lo sviluppo end-to-end di applicazioni basate sui dati che uniscono funzionalità di analisi, ML e IA generativa. Gli utenti possono creare e implementare modelli ML e di IA generativa, creare e condividere applicazioni di IA generativa su misura con dati e personalizzazioni proprietari e semplificare la collaborazione, il tutto all'interno dello stesso ambiente governato Amazon SageMaker Unified Studio.
 

Gli utenti esistenti di Amazon Bedrock Studio che hanno effettuato l'accesso al servizio tramite la Console di gestione AWS non possono migrare i propri progetti direttamente su Amazon SageMaker Unified Studio. Per accedere ad Amazon Bedrock IDE all'interno dell'ambiente governato da Amazon SageMaker, gli sviluppatori e i relativi amministratori dovranno creare un nuovo dominio in Amazon SageMaker Unified Studio, abilitare il profilo del progetto di sviluppo di applicazioni di IA generativa e accedere ad Amazon Bedrock IDE utilizzando le credenziali Single Sign-on (SSO) della propria azienda all'interno di Amazon SageMaker Unified Studio.

Tuttavia, gli utenti esistenti possono continuare ad accedere ad Amazon Bedrock Studio (anteprima) tramite la Console di gestione AWS fino al 28/02/2025. Dopo tale data, dovranno passare alla nuova esperienza Amazon Bedrock IDE nell’ambito di Amazon SageMaker Unified Studio.

Amazon Bedrock IDE nell’ambito di Amazon SageMaker Unified Studio è vincolato dai limiti e dalle quote di account definiti per la piattaforma e le risorse Amazon Bedrock sottostanti, come modelli di fondazione (FM), Knowledge Base, agenti, flussi e guardrail.

Amazon Bedrock IDE non prevede costi aggiuntivi e gli utenti pagano solo in base all’utilizzo delle risorse sottostanti richieste dalle applicazioni di IA generativa che creano. Ad esempio, i clienti pagheranno solo in base al modello associato, Guardrail e la Knowledge Base che hanno utilizzato nella loro applicazione di IA generativa. Per ulteriori informazioni, consulta la pagina dei prezzi di Amazon Bedrock.

Amazon Bedrock IDE nell’ambito di Amazon SageMaker Unified Studio è vincolato dagli stessi accordi sul livello di servizio di Amazon Bedrock. Per ulteriori informazioni, visita la pagina sull’accordo del livello di servizio di Amazon Bedrock.

Per facilitare un'esperienza di onboarding senza intoppi con Amazon Bedrock IDE in Amazon SageMaker Unified Studio, puoi trovare la documentazione dettagliata nella Guida per l'utente: IDE di Amazon Bedrock. Se hai altre domande o ti serve maggiore assistenza, non esitare a contattare il tuo team di account AWS.