Σε πολλές επιχειρήσεις κάποιος ανοίγει κάθε πρωί το ChatGPT, επικολλά ένα email πελάτη, ζητά μια απάντηση και την αντιγράφει πίσω στο email. Με πέντε μηνύματα τη μέρα αυτό δουλεύει. Με ογδόντα, ένας άνθρωπος κάνει όλη μέρα copy-paste ανάμεσα σε δύο παράθυρα. Το ChatGPT API κλείνει αυτό το κενό: δίνει στα δικά σας προγράμματα πρόσβαση στα ίδια μοντέλα, χωρίς τον άνθρωπο στη μέση.
Τι είναι το ChatGPT API
Αυτό που οι περισσότεροι λένε ChatGPT API, η OpenAI το ονομάζει OpenAI API. Είναι η πόρτα από την οποία ένα πρόγραμμα στέλνει κείμενο σε ένα μοντέλο της OpenAI και παίρνει πίσω την απάντηση. Δεν υπάρχει οθόνη συνομιλίας. Το αίτημα το γράφει ο κώδικας και την απάντηση τη διαβάζει επίσης ο κώδικας.
Αν δεν είστε σίγουροι τι σημαίνει API γενικά, το εξηγώ με παραδείγματα από eshop και τιμολόγηση στο άρθρο τι είναι API. Εδώ η λογική μένει ίδια. Αλλάζει μόνο το τι κάνει το πρόγραμμα στην άλλη άκρη: αντί για παραστατικό, γράφει, ταξινομεί ή συνοψίζει κείμενο.
Ένα σημείο μπερδεύει σχεδόν όλους. Η συνδρομή στο ChatGPT δεν είναι το ίδιο πράγμα με το API. Σύμφωνα με το κέντρο βοήθειας της OpenAI, η OpenAI χρεώνει και διαχειρίζεται το API ξεχωριστά από το ChatGPT, και υπολογίζει τη χρέωση με βάση τα tokens, δηλαδή τα κομμάτια κειμένου που στέλνετε και λαμβάνετε.
Το κρυφό κόστος της αντιγραφής-επικόλλησης
Η χειροκίνητη χρήση του ChatGPT μοιάζει φθηνή, επειδή η συνδρομή κοστίζει λίγο. Το πραγματικό κόστος είναι ο χρόνος του ανθρώπου που μεταφέρει κείμενο από το ένα παράθυρο στο άλλο. Επιπλέον, κάθε υπάλληλος γράφει το δικό του prompt, οπότε δύο πελάτες με την ίδια ερώτηση παίρνουν διαφορετικές απαντήσεις.
Υπάρχει και θέμα ελέγχου. Όταν οι υπάλληλοι δουλεύουν σε προσωπικούς λογαριασμούς, δεν ξέρετε ποια δεδομένα πελατών μπήκαν σε ποια συνομιλία. Ούτε μπορείτε να δείτε αργότερα τι απάντησε ποιος.
Τι κάνει μια επιχείρηση με το ChatGPT API
Μέσα από το ChatGPT API, το μοντέλο μπαίνει ως ένα βήμα σε μια ροή που ήδη έχετε. Τέσσερα παραδείγματα που ζητούν συχνά μικρές επιχειρήσεις:
- Τα εισερχόμενα email μπαίνουν σε κατηγορίες (παραγγελία, παράπονο, προσφορά) και πηγαίνουν στο σωστό άτομο.
- Το μοντέλο ετοιμάζει πρόχειρο απάντησης για κάθε ερώτηση πελάτη, και ο υπάλληλος το ελέγχει και το στέλνει.
- Από ελεύθερο κείμενο, όπως μια παραγγελία σε email, βγαίνουν τα πεδία που θέλει το πρόγραμμά σας: πελάτης, προϊόν, ποσότητα.
- Οι κριτικές ή τα σχόλια ενός μήνα βγαίνουν σε μια σύνοψη μίας σελίδας για τη διοίκηση.
Σε όλα κρατάω τον άνθρωπο στο τέλος της ροής. Το μοντέλο κάνει λάθη, και μια απάντηση προς πελάτη ή ένα ποσό σε παραγγελία πρέπει να τα δει κάποιος πριν φύγουν. Η διαφορά είναι ότι ο υπάλληλος ελέγχει αντί να γράφει από την αρχή.
Αν θέλετε το ίδιο σε μορφή συνομιλίας στο site σας, διαβάστε τι είναι chatbot και πότε αξίζει. Ένα chatbot για επιχείρηση συχνά τρέχει πάνω σε αυτό ακριβώς το API.
ChatGPT API key: το κλειδί που δεν δίνετε σε κανέναν
Για να μιλήσει με το ChatGPT API, ένα πρόγραμμα θέλει ένα API key, έναν μακρύ κωδικό από τον λογαριασμό σας στην πλατφόρμα της OpenAI. Όποιος έχει το κλειδί καλεί το API στο όνομά σας και η χρέωση πέφτει σε εσάς.
Οι οδηγίες της OpenAI για την ασφάλεια των κλειδιών είναι σαφείς. Το κλειδί δεν μπαίνει ποτέ σε browser ή σε εφαρμογή κινητού, γιατί εκεί το βλέπει όποιος ψάξει. Τα αιτήματα περνούν από τον δικό σας server. Κάθε μέλος της ομάδας έχει δικό του κλειδί, και η OpenAI προτείνει μηνιαίο όριο δαπάνης ώστε ένα κλειδί που διέρρευσε να μη φέρει απρόσμενο λογαριασμό.
Στην πράξη, αυτό σημαίνει ότι η σύνδεση θέλει ένα μικρό backend. Αν γράψετε το κλειδί μέσα στον κώδικα μιας σελίδας, δουλεύει στη δοκιμή, αλλά αφήνει ανοιχτή πόρτα στην παραγωγή.
Τι συμβαίνει με τα δεδομένα των πελατών σας
Αυτή είναι συνήθως η πρώτη ερώτηση που ακούω, και είναι σωστή. Σύμφωνα με την τεκμηρίωση της OpenAI για τα δεδομένα του API, από την 1η Μαρτίου 2023 η OpenAI δεν χρησιμοποιεί όσα στέλνετε στο API για την εκπαίδευση των μοντέλων, εκτός αν το επιλέξετε ρητά. Η OpenAI κρατά τα αρχεία καταγραφής για έλεγχο κατάχρησης 30 ημέρες από προεπιλογή.
Η ίδια σελίδα περιγράφει endpoint για αποθήκευση και επεξεργασία στον Ευρωπαϊκό Οικονομικό Χώρο, με προϋπόθεση έγκριση από την OpenAI. Αυτό δεν σας απαλλάσσει από τις δικές σας υποχρεώσεις για τα προσωπικά δεδομένα. Πριν στείλετε στοιχεία πελατών, ελέγξτε τι λέει η πολιτική απορρήτου σας και στείλτε μόνο ό,τι θέλει το μοντέλο για τη δουλειά.
Πότε αξίζει να συνδέσετε το ChatGPT API
Δεν θέλει κάθε επανάληψη αυτοματισμό. Αν ένας άνθρωπος χρησιμοποιεί το ChatGPT λίγες φορές την εβδομάδα, η συνδρομή αρκεί. Η σύνδεση με το ChatGPT API αξίζει όταν κάποιος κάνει την ίδια εργασία δεκάδες φορές τη μέρα, όταν τα δεδομένα ήδη ζουν σε ένα πρόγραμμα (email, CRM, eshop) και όταν θέλετε όλοι να δουλεύουν με τις ίδιες οδηγίες.
Σε αυτές τις περιπτώσεις φτιάχνω τη σύνδεση ανάμεσα στο μοντέλο και στα προγράμματα που ήδη έχετε, με έλεγχο από άνθρωπο εκεί που μετράει. Περισσότερα για το πώς δουλεύω θα βρείτε στη σελίδα για την ενσωμάτωση AI.
Θέλετε να δείτε τι θα σήμαινε για τη δική σας περίπτωση; Γράψτε μου στη φόρμα επικοινωνίας ποια εργασία κάνετε σήμερα με αντιγραφή-επικόλληση στο ChatGPT. Θα σας στείλω γραπτή προσφορά με κόστος και χρόνο, πριν δεσμευτείτε σε οτιδήποτε.
Συχνές ερωτήσεις
Είναι δωρεάν το ChatGPT API;
Όχι. Πληρώνετε με βάση τη χρήση, σε tokens, και η τιμή αλλάζει ανάλογα με το μοντέλο. Τις τρέχουσες τιμές τις δημοσιεύει η OpenAI στη σελίδα τιμών της πλατφόρμας της.
Χρειάζομαι συνδρομή ChatGPT Plus για να πάρω API key;
Όχι. Το API έχει δικό του λογαριασμό χρέωσης στην πλατφόρμα της OpenAI, ξεχωριστό από τη συνδρομή στο ChatGPT.
Μπορώ να το συνδέσω χωρίς προγραμματιστή;
Για μια απλή ροή, εργαλεία αυτοματισμού όπως το n8n έχουν έτοιμο κόμβο για την OpenAI. Προγραμματιστή θα θέλετε όταν η ροή αγγίζει δικό σας πρόγραμμα, όταν κάποιος πρέπει να ελέγξει ό,τι φεύγει προς πελάτη ή όταν τα δεδομένα είναι ευαίσθητα.