Reverse ETL: potere decisionale basato sui dati in ogni fase
Pubblicato: 2022-09-29ETL, o Extract, Transform, Load, è un processo di pipeline di analisi dei dati che include tre fasi di approvvigionamento, pulizia e caricamento dei dati in un repository a cui è possibile accedere e rendere operativo.
Tuttavia, cosa succede se potessi invertire ETL? Cioè, potere prendere decisioni in ogni fase del processo utilizzando i dati raccolti dalla fonte.
Sebbene ci siano sempre irregolarità e vulnerabilità nell'architettura dei dati, l'ETL inverso è il modo migliore per garantire che tutti stiano lavorando sulle stesse informazioni e che i numeri di segnalazione siano accurati e prevedano con maggiore precisione le prestazioni dell'azienda.
Questa guida ti aiuterà a comprendere l'ETL inverso, il motivo per cui è utile e i casi d'uso quotidiani.
Da asporto chiave
- Reverse ETL ti consente di automatizzare il processo di acquisizione di dati puliti e pronti per l'uso dai tuoi sistemi di origine negli strumenti di analisi e BI a valle.
- Usa l'ETL inverso per migliorare l'efficienza, la flessibilità, la visibilità e la coerenza mentre rendi operativi i tuoi dati.
- Approfitta degli strumenti ETL inversi dedicati e allontanati da soluzioni personalizzate inaffidabili (e costose) o dall'estenuante automazione point-to-point.
Che cos'è l'ETL inverso?
Reverse ETL è la pratica di sincronizzare i dati da una fonte di verità, in genere un data warehouse o un data lake, direttamente con diverse applicazioni aziendali come CRM, piattaforme pubblicitarie, ERP e molti altri.
Per comprendere meglio il concetto, ecco un rapido aggiornamento sui sistemi ETL ed ELT e su come è diverso l'ETL inverso.
ETL, ELT ed ETL inverso sono tutte pipeline di dati. Spostano i dati dal sistema A al sistema B mentre applicano trasformazioni ai dati lungo il percorso. "E" sta per "estrarre", "T" sta per "trasforma" e "L" sta per "carico". Nello specifico:
- ETL implica l'estrazione di dati da una o più fonti e la loro trasformazione in un formato che può essere caricato in un sistema di destinazione.
- ELT è un processo simile che inverte l'ordine dei passaggi Trasforma e Carica. I dati vengono prima caricati nel sistema di destinazione e quindi trasformati per soddisfare i requisiti di quel sistema.
- Reverse ETL inverte l'ordine dei passaggi Estrai e Carica. I dati vengono estratti dal sistema di origine e caricati direttamente nel sistema di destinazione senza essere trasformati.
Reverse ETL elimina la necessità di una fase di trasformazione intermedia, che può far risparmiare tempo e risorse. Tuttavia, significa anche che i dati potrebbero non essere compatibili con il sistema di destinazione e potrebbero richiedere più elaborazione prima di poterli utilizzare.
Di conseguenza, l'ETL inverso prospera in situazioni in cui i sistemi di origine e di destinazione sono molto simili o in cui non è necessario trasformare i dati.
Vantaggi dell'integrazione dell'ETL inverso
Gli strumenti ETL inversi utilizzano il cosiddetto approccio hub-and-spoke. Ciò significa che puoi utilizzare il tuo data warehouse per tutte le connessioni in uscita. I tuoi strumenti aziendali possono estrarre i dati dalla stessa fonte sottostante affidabile, evitando potenziali differenze tra le numerose integrazioni point-to-point.
Ecco alcuni vantaggi dell'ETL inverso:
- Rendere operativi i dati: la visualizzazione dei dati in ogni "raggio" nel tuo stack tecnologico consente al tuo team di prendere informazioni astratte e trasformarle in qualcosa di concreto e misurabile.
- Coerenza dei dati: importando i dati da un'origine unificata, puoi essere certo che tutti stiano lavorando sulle stesse informazioni. L'accessibilità ai dati centralizzati è fondamentale per i team di vendita e marketing che necessitano di report accurati per prevedere le prestazioni dell'azienda.
- Efficienza migliorata: la corretta implementazione dell'ETL inverso ti farà risparmiare tempo e risorse eliminando la necessità di una fase di trasformazione intermedia, in particolare per il tuo team di dati. Tutte le connessioni API si integrano con il magazzino, quindi non devi preoccuparti di creare o mantenere codice personalizzato internamente. Quindi l'ETL inverso consente al tuo team di dati di concentrarsi sul lavoro di alto valore.
- Maggiore flessibilità: con l'ETL inverso, puoi scegliere quali dati sincronizzare e quando, consentendoti di aggiungere o rimuovere facilmente applicazioni dal processo ETL inverso, se necessario.
- Maggiore visibilità: Reverse ETL fornisce un quadro completo del flusso di dati, facilitando l'individuazione di potenziali errori o aree di miglioramento.
- Coerenza degli strumenti: inviando i dati trasformati direttamente alle applicazioni aziendali, gli utenti possono rimanere nel loro strumento nativo, che è più comodo utilizzare rispetto a uno strumento di BI.
Casi d'uso ETL inversi
Ora che abbiamo esaminato i vantaggi dell'ETL inverso, esaminiamo alcuni casi d'uso specifici in cui questo framework è efficace.
Caricamento dei dati dei clienti in un CRM
In questo scenario, estrai i dati dai tuoi sistemi interni, ad esempio il tuo strumento ERP, finanziario o di gestione degli ordini.
Questi dati vengono quindi caricati nel sistema CRM in modo che i team di vendita e marketing possano accedere alle informazioni sui clienti in un'unica posizione centrale. Non è necessario trasformare i dati perché sono già in un formato compatibile.
Sincronizzazione dei dati tra due sistemi simili
Questo caso d'uso è simile a quello sopra, ma i due sistemi non sono necessariamente compatibili. Potrebbe essere necessario trasformare i dati nel sistema di destinazione prima di caricarli. Ad esempio, potrebbe essere necessario convertire i dati dal formato CSV al formato JSON.
Migrazione dei dati su un nuovo sistema
Puoi passare da un data warehouse in locale a una soluzione basata su cloud o cambiare sistema CRM. In ogni caso, puoi impostare il trasferimento ETL inverso ai dati.
Questa integrazione eviterebbe la necessità di trasferire i dati manualmente o di scrivere script personalizzati. Si noti che potrebbe essere necessario trasformare i dati per soddisfare i requisiti del nuovo sistema.
Creazione di un backup
La gestione dei backup è un caso d'uso quotidiano per l'ETL inverso. I dati vengono estratti dal sistema di origine e caricati in uno di backup. Non è necessario trasformare i dati perché non sono necessari per nient'altro che il backup.
In che modo l'ETL inverso si adatta allo stack di dati moderno
Le applicazioni per rendere operativi i tuoi dati utilizzando l'ETL inverso sono infinite. Diamo un'occhiata a tre esempi di utilizzo di ETL inverso nello stack di dati.
Sincronizza i dati con il CRM per il tuo team di vendita
Gli strumenti CRM come Salesforce hanno alcune soluzioni di reporting pronte all'uso piuttosto buone e di solito sono i luoghi in cui il tuo team di vendita trascorrerà la maggior parte del loro tempo.
Potrai comunque estrarre e caricare i dati grezzi di Salesforce nel tuo magazzino, combinandoli con altri dati aziendali per creare metriche personalizzate nella normale pipeline ETL/ELT.
Ma puoi utilizzare il tuo strumento ETL inverso per sincronizzare i nuovi dati e metriche personalizzate dal tuo magazzino al tuo CRM per il tuo team di vendita.
Il tuo team di vendita utilizza ancora la logica del magazzino condiviso ma non deve accedere a uno strumento di reporting separato per vederlo. E non hanno bisogno di creare report personalizzati per capire di cosa hanno bisogno.
Usa i dati dei clienti per le campagne di marketing
Il tuo team di marketing vuole creare un elenco segmentato di clienti dal tuo data warehouse per una nuova campagna di marketing. Invece di scrivere una query ed esportare i dati, possono utilizzare l'ETL inverso per inviare automaticamente i dati dal tuo magazzino a un foglio Google, un foglio di lavoro o qualcosa di simile.
Il team di marketing può quindi utilizzare i dati in base alle proprie esigenze e non deve fare affidamento sul team di ingegneri per ottenere i dati per loro.
Migliora l'assistenza clienti con i dati
L'assistenza clienti utilizza una combinazione di Slack e Zendesk per gestire i ticket dei clienti. Ma cosa accadrebbe se potessi utilizzare i dati del tuo magazzino per instradare automaticamente i ticket all'agente di supporto giusto?
Puoi utilizzare l'ETL inverso per monitorare i tuoi dati per occorrenze specifiche e quindi agire di conseguenza. In questo caso, invierai un messaggio a Slack che include i dettagli del biglietto e lo assegna all'agente di supporto giusto.
In questo modo, il tuo team di assistenza clienti può concentrarsi sulla risoluzione dei ticket anziché sull'instradamento. E puoi essere certo che il biglietto giusto andrà alla persona giusta.
Non c'è limite a ciò che puoi fare con l'ETL inverso. La chiave è capire come usarlo per formare una pipeline di dati completa.
Build vs Buy: quale soluzione ETL inversa scegliere?
Sebbene il concetto di ETL inverso non sia nuovo, fino a poco tempo non c'erano strumenti disponibili per aiutare con l'implementazione. La situazione è cambiata con l'avvento dei data warehouse basati su cloud.
In passato, avresti dovuto creare un'applicazione personalizzata per sincronizzare i dati tra i canali. Tale impegno includerebbe la responsabilità della connessione e della gestione delle API e della progettazione delle interfacce. Ancora più importante, è necessario mantenere sia il prodotto che il codice.
Il problema con questo approccio è che uno o due ingegneri devono essere disponibili se qualcosa va storto.
Un altro approccio consiste nel cercare di imitare i dati in un altro strumento di BI all'interno di un dashboard; tuttavia, è difficile abbinare i numeri in modo accurato utilizzando questo metodo.
Potresti anche provare a utilizzare strumenti di automazione come Zapier o Make. Questi strumenti possono essere efficaci per piccoli carichi di lavoro, ad esempio se desideri creare un trigger una tantum. Tuttavia, il numero di queste sincronizzazioni aumenterà rapidamente in base alle tue esigenze, rendendo l'automazione poco pratica per qualcosa di più dell'uso previsto.
È qui che entra in gioco uno strumento ETL inverso: fornisce un modo per gestire la sincronizzazione dei dati senza bisogno di codice personalizzato o affidarsi a ingegneri.
Limitando la dipendenza da altri reparti, puoi essere operativo più velocemente rispetto a una soluzione personalizzata. È anche più facile da usare e mantenere, poiché il fornitore fornirà supporto e aggiornamenti.
Ancora più importante, l'invio di dati trasformati direttamente alle applicazioni aziendali significa che il tuo team può continuare a utilizzare il software che conosce invece di gestire un'interfaccia di strumenti di BI spesso opprimente.
Reverse ETL è una soluzione scalabile che può crescere con le tue esigenze pur rimanendo gestibile. In quanto tale, sta rapidamente diventando la soluzione ideale per la gestione dei dati su tutti i canali.
Passaggi successivi per implementare il modello ETL inverso
Per prendere decisioni basate sui dati, hai bisogno dei dati corretti nel formato corretto al momento giusto e l'ETL inverso spunta la maggior parte delle caselle.
Integrando un sistema ETL inverso, puoi automatizzare il processo di acquisizione di dati puliti e pronti per l'uso dai tuoi sistemi di origine negli strumenti di analisi e BI a valle. Di conseguenza, sarai in grado di migliorare il processo decisionale e ottenere più approfondimenti dai tuoi dati più velocemente che mai.
Se stai cercando una soluzione ETL inversa che soddisfi le tue esigenze specifiche, il nostro team di Improvado è qui per aiutarti. Ti aiuteremo a creare un modello e a renderti operativo per prendere decisioni basate sui dati migliori e più rapide oggi.