Nuove – Le capacità generative AI no-code sono ora disponibili in Amazon SageMaker Canvas
Novità - Le capacità generative AI no-code sono ora disponibili su Amazon SageMaker Canvas
Lanciato nel 2021, Amazon SageMaker Canvas è un servizio visuale e point-and-click che consente agli analisti aziendali e ai data scientist cittadini di utilizzare modelli di machine learning (ML) pronti all’uso e costruire modelli ML personalizzati per generare previsioni accurate senza la necessità di scrivere codice. I modelli pronti all’uso consentono di ottenere risultati immediati da dati testuali, immagini e documenti (come l’analisi del sentiment, l’elaborazione dei documenti o il rilevamento degli oggetti nelle immagini). I modelli personalizzati consentono di costruire modelli predittivi per casi d’uso come la previsione della domanda, l’attrito dei clienti e il rilevamento dei difetti nella produzione.
Siamo entusiasti di annunciare che SageMaker Canvas sta ampliando il suo supporto ai modelli pronti all’uso per includere modelli di base (FMs), che ti consentono di utilizzare l’AI generativa per generare e riassumere contenuti. Puoi utilizzare il linguaggio naturale con un’interfaccia di chat conversazionale per svolgere attività come creare narrazioni, rapporti e post di blog, rispondere a domande, riassumere note e articoli e spiegare concetti, senza scrivere una singola riga di codice. I tuoi dati non vengono utilizzati per migliorare i modelli di base, non vengono condivisi con fornitori di modelli di terze parti e rimangono completamente all’interno del tuo ambiente sicuro di AWS.
SageMaker Canvas ti consente di accedere a una varietà di FMs che includono modelli di Amazon Bedrock (come Claude 2 di Anthropic e Jurassic-2 di AI21 Labs) e modelli di Amazon SageMaker JumpStart disponibili pubblicamente, tra cui Falcon-7B-Instruct, Falcon-40B-Instruct e MPT-7B-Instruct). Puoi utilizzare un singolo modello o fino a tre modelli per confrontare le risposte dei modelli affiancati. In SageMaker Canvas, i modelli di Amazon Bedrock sono sempre attivi, consentendo di utilizzarli immediatamente. I modelli di SageMaker JumpStart possono essere avviati e distribuiti nel tuo account AWS su richiesta e vengono automaticamente arrestati dopo due ore di inattività.
Esploriamo insieme come utilizzare le capacità di AI generativa di SageMaker Canvas. Per questo post, lavoriamo con un caso fittizio di supporto clienti aziendali come esempio.
- Gli laureati cercano oltre l’hype in Generative AI
- Il futuro è adesso 6 applicazioni dell’IA nella MedTech
- App di gioco bilingue mira a contrastare la demenza
Prerequisiti
Completa i seguenti passaggi preliminari:
- Crea un account AWS.
- Configura SageMaker Canvas e facoltativamente configuralo per utilizzare una VPC senza accesso a Internet.
- Configura l’accesso al modello in Amazon Bedrock.
- Richiedi aumenti dei quota di servizio per g5.12xlarge e g5.2xlarge, se necessario, nella tua regione. Queste istanze sono necessarie per ospitare i punti di accesso del modello SageMaker JumpStart. Altre istanze possono essere selezionate in base alla disponibilità.
Gestione dei reclami dei clienti
Supponiamo che tu sia un analista di supporto clienti che si occupa dei reclami per un’azienda di biciclette. Quando ricevi un reclamo da un cliente, puoi utilizzare SageMaker Canvas per analizzare il reclamo e generare una risposta personalizzata al cliente. Per farlo, completa i seguenti passaggi:
- Nella console di SageMaker, scegli Canvas nel riquadro di navigazione.
- Scegli il tuo dominio e il tuo profilo utente e scegli Apri Canvas per aprire l’applicazione SageMaker Canvas.
SageMaker Canvas è anche accessibile tramite accesso con un unico nome utente o altri provider di identità (IdP) esistenti, senza dover accedere prima alla console di SageMaker.
- Scegli Genera, estrai e riassumi il contenuto per aprire la console di chat.
- Con il modello Claude 2 selezionato, inserisci le istruzioni per recuperare il sentimento del cliente per il reclamo fornito e premi Invio.
- Potresti voler conoscere i problemi specifici della bicicletta, specialmente se si tratta di un reclamo lungo. Quindi, chiedi i problemi con la bicicletta. Nota che non è necessario ripostare il reclamo perché SageMaker Canvas memorizza il contesto della tua chat.
Ora che abbiamo capito il problema del cliente, puoi inviare loro una risposta che includa un link al modulo di feedback dell’azienda.
- Nella finestra di input, richiedi una risposta al reclamo del cliente.
- Se desideri generare un’altra risposta dal FM, scegli l’icona di aggiornamento nella sezione delle risposte.
La risposta originale e tutte le nuove risposte sono paginate all’interno della sezione delle risposte. Nota che la nuova risposta è diversa dalla risposta originale. Puoi scegliere l’icona di copia nella sezione delle risposte per copiare la risposta in un’e-mail o un documento, come richiesto.
- Puoi anche modificare la risposta del modello richiedendo specifiche modifiche. Ad esempio, chiediamo al modello di aggiungere un’offerta di carta regalo da $50 alla risposta via e-mail.
Confronto delle risposte del modello
Puoi confrontare le risposte del modello di vari modelli (fino a tre). Confrontiamo due modelli di Amazon Bedrock (Claude 2 e Jurassic-2 Ultra) con un modello di SageMaker JumpStart (Falcon-7B-Instruct) per valutare e trovare il miglior modello per il tuo caso d’uso:
- Scegli Nuova chat per aprire un’interfaccia di chat.
- Nel menu a discesa del modello, scegli Avvia un altro modello.
- Nella pagina dei Modelli di base, sotto i Modelli di avvio rapido di Amazon SageMaker, scegli Falcon-7B-Instruct e nel riquadro a destra, scegli Avvia modello.
Il modello impiegherà circa 10 minuti per avviarsi.
- <li+nella Modelli di base, conferma che il modello Falcon-7B-Instruct sia attivo prima di procedere al passaggio successivo.
- Scegli Nuova chat per aprire un’interfaccia di chat.
- Scegli Confronta per visualizzare un menu a discesa per il secondo modello, quindi scegli Confronta di nuovo per visualizzare un menu a discesa per il terzo modello.
- Scegli il modello Falcon-7B-Instruct nel primo menu a discesa, Claude 2 nel secondo menu a discesa e Jurassic-2 Ultra nel terzo menu a discesa.
- Inserisci le istruzioni nella casella di input della chat e premi Invio.
Vedrai le risposte di tutti e tre i modelli.
Pulire
Tutti i modelli SageMaker JumpStart avviati da SageMaker Canvas verranno automaticamente arrestati dopo 2 ore di inattività. Se desideri arrestare questi modelli prima per risparmiare denaro, segui le istruzioni in questa sezione. Nota che i modelli Amazon Bedrock non sono distribuiti nel tuo account, quindi non c’è bisogno di arrestarli.
- Per arrestare il modello SageMaker JumpStart Falcon-40B-Instruct, puoi scegliere tra due metodi:
- Nella pagina di confronto dei risultati, scegli il menu delle opzioni del modello Falcon-7B-Instruct (tre puntini), quindi scegli Arresta modello.
- Alternativamente, scegli Nuova chat, e nel menu a discesa del modello, scegli Avvia un altro modello. Quindi, nella pagina Modelli di base, sotto Modelli Amazon SageMaker JumpStart, scegli Falcon-7B-Instruct e nel riquadro destro, scegli Arresta modello.
- Scegli Esci nel riquadro sinistro per disconnetterti dall’applicazione SageMaker Canvas per interrompere il consumo di ore di istanza di workspace SageMaker Canvas e rilasciare tutte le risorse utilizzate dall’istanza del workspace.
Conclusione
In questo articolo, hai imparato come utilizzare SageMaker Canvas per generare testi con modelli pronti all’uso di Amazon Bedrock e SageMaker JumpStart. Hai utilizzato il modello Claude 2 per analizzare il sentiment di un reclamo di un cliente, porre domande e generare una risposta senza scrivere una singola riga di codice. Hai anche avviato un modello pubblicamente disponibile e confrontato le risposte di tre modelli.
Per i modelli Amazon Bedrock, ti viene addebitato in base al volume di token di input e token di output come indicato nella pagina dei prezzi di Amazon Bedrock. Poiché i modelli SageMaker JumpStart sono distribuiti su istanze SageMaker, ti viene addebitato per la durata dell’uso in base al tipo di istanza come indicato nella pagina dei prezzi di Amazon SageMaker.
SageMaker Canvas continua a democratizzare l’IA con uno spazio di lavoro visivo e interattivo senza codice che consente agli analisti aziendali di creare modelli di ML che affrontano una vasta gamma di casi d’uso. Prova le nuove funzionalità di AI generativa in SageMaker Canvas oggi stesso! Queste funzionalità sono disponibili in tutte le regioni in cui sono disponibili Amazon Bedrock o SageMaker JumpStart.
