Avez-vous révélé des secrets sur ChatGPT ? Soyez prudent lorsque vous divulguez des détails exclusifs, prévient un professeur
Avez-vous révélé des secrets sur ChatGPT ? Soyez prudent lorsque vous divulguez des détails exclusifs, prévient un professeur

chat GPT
Crédit : Pixabay/CC0 Domaine public

Qu'il s'agisse d'une légère curiosité ou de l'impératif commercial de commencer à utiliser l'intelligence artificielle (IA), dans le cadre d'une proposition de vente unique, de nombreuses personnes utilisent désormais ChatGPT, au travail ou à la maison.

Lors de son lancement, le grand modèle de langage d'IA convivial est passé de zéro à 100 millions d'utilisateurs en seulement 60 jours. Depuis lors, Microsoft a investi 10 milliards de dollars américains dans la startup Open AI et intégré GPT4 dans Bing. Les applications Bing dédiées avec GPT4 sont désormais disponibles sur l'App Store et le Play Store.

Une partie de l'expérience utilisateur du ChatGPT d'OpenAI est que les outils d'IA peuvent générer un texte vraiment utile à partir d'une invite spécifique, ce qui permet de gagner du temps au quotidien au travail grâce à l'apprentissage automatique, par exemple lors de la rédaction d'e-mails.

Vous pouvez même utiliser la description de poste fournie dans une annonce pour que ChatGPT rédige la lettre de motivation "parfaite". Ou un membre du personnel des ressources humaines peut générer l'offre d'emploi "parfaite" pour LinkedIn à partir du bref résumé fourni par l'unité commerciale.

Mais quels sont les risques à essayer différentes manières d'utiliser ChatGPT au travail ?

Comme point de départ, regardons l'exemple de l'offre d'emploi.

Si le rôle est celui qui est couramment annoncé, alors peu est perdu en partageant la forme de la description de poste avec quelques centaines de millions d'autres utilisations de ChatGPT.

Mais si la description de poste comprend des informations qui pourraient être utilisées par un concurrent pour identifier votre entreprise, les risques sont alors considérablement plus élevés (surtout si le recrutement est un élément important de la stratégie commerciale d'initiés sur votre lieu de travail).

Des entreprises comme Samsung ayant récemment été piquées par des membres du personnel donnant par inadvertance du matériel via ChatGPT, il est important d'examiner attentivement les risques avant de l'utiliser au travail.

Et juste comme ça, le code a disparu

Ce problème est particulièrement difficile si les membres du personnel ont commencé à utiliser ChatGPT dans le cadre du processus de développement du code.

C'est vraiment attirant de le faire. L'un des grands aspects de ChatGPT est son cas d'utilisation d'automatisation pour réduire le temps de codage dans les projets de développement de logiciels pour les programmeurs. Cela peut être fait au niveau de la conception ("Comment puis-je trier les lettres de candidature à l'aide du traitement du langage naturel en Python ?") ou au niveau du code ("Comment puis-je utiliser Gaussian Naive Bayes dans scikit-learn ?").

Une fonctionnalité vraiment utile est la possibilité de coller du code en tant qu'invite pour demander à ChatGPT de l'améliorer. C'est aussi simple que "Quel est le problème avec le code suivant?" ChatGPT peut même reconnaître le langage de codage que vous utilisez.

Le problème est que ChatGPT peut alors inclure le matériel que vous avez utilisé comme invite pour améliorer ses réponses à l'avenir, en entraînant les algorithmes. C'est précisément ce qui est arrivé aux développeurs de Samsung qui ont utilisé ChatGPT pour améliorer le code et conserver les notes de réunion.

Le matériel qui aurait été considéré comme l'un des plus sensibles par Samsung était disponible pour les développeurs en dehors de Samsung, simplement parce que les ingénieurs de Samsung ont utilisé ChatGPT pour réduire leur temps de développement.

GPT4 rendra-t-il l'utilisation de ChatGPT au travail plus risquée ?

Le dernier né de la série GPT après GPT3, GPT4 dispose d'une fonction voix-texte incroyablement précise. Mais le risque que le texte fasse partie de l'ensemble de formation pour améliorer l'IA générative est élevé.

C'est un moyen simple à la fois de retranscrire les réunions de travail, et mieux encore, de générer le compte-rendu avant la fin de la réunion. Cependant, la transcription fera également partie de l'écosystème GPT4 avant la fin de cette réunion. Il y a eu des gros titres sur la décision de l'Italie "d'interdire" ChatGPT pour des raisons de confidentialité.

Essentiellement, l'argument avancé par les autorités italiennes est que les données collectées par ChatGPT étaient en violation du règlement général européen sur la protection des données. Cependant, comme dans d'autres pays européens, il semble probable que l'Italie renonce à cette approche d'ici la fin avril. Le seul changement requis sera d'avoir une vérification de l'âge (plus de 18 ans) sur les utilisateurs.

L'IA générative utilise des milliards de points de données afin de pouvoir créer du texte sur une base prédictive. Il s'améliore en réponse aux commentaires des utilisateurs. Le défi auquel sont confrontées les entreprises qui emploient des personnes curieuses est que ces commentaires peuvent inclure des éléments confidentiels de l'entreprise.

La solution est simple en théorie mais beaucoup plus difficile en pratique. Si le matériel ne serait normalement pas divulgué en dehors de l'entreprise, il ne doit pas être utilisé comme invite pour ChatGPT ou pour Bing.

La difficulté pratique de cette règle est que les moteurs de recherche, y compris Google avec son IA générative appelée Bard, sont un outil commercial essentiel. La question peut être de décider si les moteurs de recherche sont là pour fournir des informations ou pour fournir des réponses.

Alors, je devrais éviter d'utiliser ChatGPT au travail ?

Vous ne savez pas ce que vous devriez (et ne devriez pas) partager avec notre ami ChatGPT ? Essayez ce test simple :

Le résultat de la session ChatGPT est-il un document qui serait normalement considéré comme confidentiel par votre entreprise ? Ensuite, il ne doit pas être partagé sur ChatGPT.

Si vous avez écrit votre lettre de motivation ou votre CV à l'aide de ChatGPT, le système d'intelligence artificielle utilisé pour filtrer les candidats pourrait également exécuter votre lettre de motivation via GPTZero. Cet outil en ligne d'Open AI peut détecter si un texte a été écrit par une IA générative en examinant la « perplexité » (une mesure du caractère aléatoire du texte) et la « rafale » (une mesure de la variation de la perplexité) de ce texte.

Mais bien sûr, l'amélioration de la sortie de texte de ChatGPT remet en question ces outils. Alors, qui peut dire comment cela va changer à l'avenir avec le développement de la technologie de l'IA ?

Fourni par l'Université de Nouvelle-Galles du Sud

Citation: Avez-vous révélé des secrets sur ChatGPT ? Soyez prudent lorsque vous divulguez des détails exclusifs, met en garde un professeur (2023, 18 avril) récupéré le 19 avril 2023 sur

Ce document est soumis au droit d'auteur. En dehors de toute utilisation loyale à des fins d'étude ou de recherche privée, aucune partie ne peut être reproduite sans l'autorisation écrite. Le contenu est fourni seulement pour information.




Source

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Scroll to Top