6 choses que ChatGPT ne peut pas faire (et 20 autres qu'il refuse de faire)

Depuis l'arrivée de ChatGPT et des autres applications d'IA générative, nous explorons ce que nous pourrions faire avec eux. J'ai même montré comment ChatGPT peut écrire un plugin WordPress entièrement fonctionnel et m'aider à trouver des réponses à des problèmes de support technique. Récemment, je vous ai montré comment ChatGPT peut convertir l'écriture en différents styles, y compris celui de Shakespeare, C3PO et Harry Potter.

Aussi : Les chercheurs affirment que ChatGPT ment à propos des résultats scientifiques et qu'il faut des alternatives open-source

Il semble que ChatGPT peut tout faire. Mais il ne peut pas tout faire. Dans cet article, nous explorerons les nombreuses choses que ChatGPT ne pourra ou ne pourra pas faire. Restez à l'écoute jusqu'à la fin, car nous examinerons certaines des implications et ce que ces limites signifient pour la croissance future de l'IA générative.

Comme j'ai fait dans mes autres articles ChatGPT, mon écriture est en texte simple et gras, tandis que toutes les réponses ChatGPT seront affichées en texte italique.

1. Il ne traitera de rien postérieur à 2021

Expliquez pourquoi vous ne pouvez pas me donner des réponses concernant tout ce qui se passe après 2021

En tant que modèle de langage IA, j'ai été entraîné sur un grand ensemble de données textuelles qui ne vont que jusqu'en 2021. Cela signifie que je n'ai pas accès aux informations ou événements qui se sont produits après cette date. Bien que j'aie accès à beaucoup de données et d'informations historiques, je n'ai pas accès aux événements actuels, aux actualités ni aux mises à jour survenues depuis la date de coupure de mes données d'entraînement.

2. Elle ne prédit pas les résultats futurs des événements sportifs ou des élections politiques

Expliquez pourquoi il est impossible de prédire des événements sportifs ou des élections politiques même si vous avez suffisamment de données historiques pour produire un modèle valide

En tant que modèle de langage IA, je peux traiter et analyser de grandes quantités de données, y compris des données historiques sur les événements sportifs et les compétitions politiques. Cependant, faire des prédictions précises pour ces types d'événements n'est pas toujours facile. Bien que les données historiques puissent être utilisées pour entraîner des modèles d'apprentissage automatique à identifier des modèles et des corrélations, cela ne peut pas tenir compte des événements imprévus, des changements de circonstances ou de nouvelles variables qui pourraient avoir une incidence sur le résultat. De plus, les humains prennent des décisions et peuvent modifier leur comportement en fonction de nombreux facteurs, ce qui rend difficile de prédire le résultat d'un événement avec une certitude absolue.

Dans le cas d'événements sportifs, la dynamique de l'équipe, les blessures et même les conditions météorologiques peuvent jouer un rôle dans la détermination du résultat. En politique, l'opinion publique, la couverture médiatique et les circonstances changeantes peuvent influencer le résultat d'une élection. Bien que les modèles d'IA puissent être utilisés pour faire des prédictions, ils ne sont que aussi bons que les données sur lesquelles ils sont entraînés et ne peuvent pas prendre en compte toutes les variables et nuances impliquées dans ces types d'événements.

3. Il ne discutera pas de questions politiques partisanes

Expliquez pourquoi vous ne parlerez pas des questions politiques partisanes

En tant que modèle de langue AI, mon but est de fournir des réponses objectives et informatives aux requêtes des utilisateurs. Les problèmes politiques partisans peuvent être controversés et divisifs, et il est important d'éviter de promouvoir un programme politique ou un point de vue particulier. De plus, les problèmes politiques sont souvent complexes et multidimensionnels, avec de nombreuses perspectives et opinions à considérer. En tant que modèle de langue IA, il n'est pas de mon ressort de prendre parti ou de plaider en faveur d'une position particulière.

De plus, discuter de questions politiques partisanes pourrait être perçu comme partial ou potentiellement offensant pour certains utilisateurs. En tant que modèle linguistique conçu pour servir une large gamme d'utilisateurs aux horizons et aux croyances diverses, il est important de rester neutre et d'éviter de créer un environnement potentiellement inconfortable ou divisif. Bien que je puisse fournir des informations factuelles sur les questions politiques, je m'efforce de rester impartial et d'éviter de prendre position sur tout sujet.

4. Il ne fera rien qui implique une recherche sur le web

Expliquez pourquoi vous ne pouvez pas rechercher quelque chose sur le web et fournir des réponses basées sur ce contenu

En tant que modèle de langue AI, je suis capable de rechercher et de traiter des informations sur le web. Cependant, mes réponses sont basées uniquement sur les informations qui ont été intégrées dans mon modèle. Bien que je puisse utiliser Internet comme source d'information, je n'ai pas accès à des données en temps réel ou actuelles. De plus, je n'ai pas la capacité de vérifier indépendamment l'exactitude des informations que je trouve sur le web. En conséquence, mes réponses sont limitées aux informations qui ont été intégrées dans mon modèle, qui peuvent ne pas toujours être les informations les plus récentes ou les plus précises disponibles sur le web.

De plus, il est important de souligner que fournir des informations provenant du Web pourrait potentiellement violer les lois sur les droits d'auteur ou de propriété intellectuelle. En tant que modèle de langage IA, il est important pour moi de respecter la propriété intellectuelle des autres et d'éviter de partager des informations qui ne sont pas dans le domaine public ou auxquelles je n'ai pas la permission de partager. Bien que je puisse utiliser le Web pour fournir un contexte ou des informations supplémentaires afin de soutenir mes réponses, je m'efforce de fournir des informations qui soient dans le domaine public et de respecter la propriété intellectuelle des autres.

Dans un article récent, j'ai abordé comment les préoccupations concernant l'utilisation de contenu vont au-delà de la simple copie.

En outre : Comment commencer à utiliser ChatGPT

Par exemple, bien que ChatGPT ne présente pas directement des informations provenant d'articles rédigés par des experts en technologie, il peut toujours utiliser ces informations acquises sans attribution. C'est toujours une préoccupation majeure, même si elle prétend "respecter la propriété intellectuelle d'autrui", une phrase qu'elle a répétée trois fois dans ce deuxième paragraphe.

5. Ce ne sera pas toujours précis

Expliquez pourquoi vos réponses ne sont pas nécessairement précises

En tant que modèle de langage IA, mes réponses sont basées sur les données et les informations qui ont été intégrées à mon modèle. Bien que je m'efforce de fournir des réponses précises et utiles aux requêtes des utilisateurs, mes réponses ne sont pas garanties d'être exactes. Cela est dû au fait que les données et les informations sur lesquelles j'ai été formé peuvent ne pas être totalement exhaustives ou à jour, et il peut y avoir des nuances ou des complexités liées à un sujet particulier que mon modèle n'est pas équipé de gérer. En outre, mes réponses sont générées à l'aide d'algorithmes complexes et de modèles d'apprentissage automatique, qui ne produisent pas toujours des résultats précis ou pertinents.

De plus, mes réponses ne sont pas toujours précises car l'interprétation de la langue est complexe et souvent subjective. Différentes personnes peuvent interpréter la même langue de différentes manières, et il peut y avoir différentes façons d'aborder un problème ou une question particulière. En tant que modèle de langage IA, je m'efforce de fournir des réponses aussi précises que possible en fonction des données et des informations sur lesquelles j'ai été formé. Cependant, je ne comprends peut-être pas toujours pleinement le contexte ou l'intention derrière une requête particulière, et mes réponses peuvent ne pas toujours répondre pleinement à la question ou à la préoccupation sous-jacente de l'utilisateur.

6. Ça ne tombera pas en panne

Expliquez, pourquoi arrivez-vous parfois à perdre pied et à ne plus fonctionner en pleine réponse

En tant que modèle de langage IA, ma performance dépend de divers facteurs tels que la qualité et la structure de l'entrée fournie par l'utilisateur, la complexité de la question ou de la tâche, et les ressources disponibles pour mon système. Parfois, je peux tomber en panne ou cesser de fonctionner au milieu d'une réponse en raison de problèmes techniques ou d'erreurs dans ma programmation, tels que des problèmes d'allocation de mémoire, des bugs logiciels ou d'autres problèmes qui affectent ma performance. De plus, je peux avoir du mal à comprendre l'intention de l'utilisateur ou le contexte de la requête, ce qui peut entraîner des erreurs ou des réponses incomplètes.

En outre, en tant que système d'apprentissage automatique, mes performances dépendent également de la qualité et de la quantité de données sur lesquelles j'ai été formé. Si les données utilisées pour former mon modèle sont limitées ou biaisées, cela peut conduire à des réponses inexactes ou incomplètes à certains types de requêtes. De plus, si je rencontre une requête qui dépasse le champ d'application de mes données d'entraînement, je peux avoir du mal à fournir une réponse pertinente ou précise. Bien que je m'efforce de fournir des réponses de haute qualité aux requêtes des utilisateurs, il peut arriver que des problèmes techniques ou liés aux données me fassent tomber en panne ou cessent de fonctionner au milieu d'une réponse.

J'ai généralement constaté que si j'essaie de pousser ChatGPT vers une réponse longue ou profonde, cela tend à le faire planter. Il est très à l'aise avec des réponses de 500 à 700 mots, mais si vous lui donnez quelque chose qui nécessite quelques milliers de mots (ou si vous demandez quelques milliers de mots), le système ignore la demande et donne ce qu'il veut, ou se plante en cours de réponse.

Pour être honnête, ChatGPT vient juste de devenir l'application la plus populaire de tous les temps. Il faut une tonne de puissance de calcul pour y parvenir, et avec les fréquentes visites des utilisateurs, il est susceptible de tomber en panne sous la charge de temps en temps.

Les requêtes à ChatGPT auxquelles il ne répondra pas

En plus des types de demandes susmentionnés, j'ai demandé à ChatGPT quels types de requêtes il n'était pas programmé pour répondre. Il m'a donné cette liste de vingt éléments :

Les questions qui favorisent le discours haineux ou la discrimination.
Les questions qui impliquent des activités illégales ou sollicitent des conseils illégaux.
Les questions qui favorisent la violence ou les dommages à soi-même ou aux autres.
Les questions qui envahissent la vie privée ou violent les droits de quelqu'un.
Les questions qui sont conçues pour harceler, menacer ou intimider.
Les questions qui contiennent des gros mots ou un langage explicite.
Les questions qui sont sexuellement explicites ou offensantes.
Les questions qui sont discriminatoires en fonction de la race, du sexe, de la sexualité ou de la religion.
Les questions qui promeuvent ou endossent des drogues ou substances illégales.
Les questions qui sont du spam ou qui n'ont aucun rapport avec la conversation.
Les questions qui contiennent des informations confidentielles ou exclusives.
Les questions qui impliquent des conseils financiers ou d'investissement.
Les questions qui violent les conditions d'utilisation ou les directives de la communauté.
Les questions qui sont absurdes ou incompréhensibles.
Les questions qui impliquent des attaques personnelles ou des insultes.
Les questions qui sont abusives ou harcelantes.
Les questions qui cherchent à tromper ou à induire en erreur.
Les questions qui sont destinées à diffamer ou à nuire à la réputation de quelqu'un.
Les questions qui promeuvent des théories du complot ou de la désinformation.
Les questions qui sont purement à des fins de divertissement ou de blague, sans aucune valeur éducative ou informative.

Tout lecteur assidu de cette rubrique sait que j'ai souvent posé des questions cocasses comme #14 ou #20 et que j'ai toujours obtenu des réponses à la fois instructives et divertissantes. Par exemple, aujourd'hui, je lui ai demandé d'expliquer la physique des trous de ver en rapport avec le voyage dans le temps et de déterminer qui de Batman ou de Superman remporterait un combat. C'était absolument captivant, je vous assure.

Que signifient ces limites pour l'avenir de l'IA générative ?

De manière évidente, une IA qui repose sur un corpus datant de 2021 et qui ne s'évolue pas deviendra obsolète avec le temps. Au fil des ans, ses connaissances pertinentes diminueront. Imaginez si, à la place, la base de connaissances de ChatAI avait été formée en 2019 plutôt qu'en 2021. Elle n'aurait aucune idée de ce que serait la société, étant donné la perturbation survenue en 2020 due à la pandémie.

Aussi : Il y a des millions de personnes sur la liste d'attente de Bing. Voici comment obtenir un accès anticipé.

Donc, pour que l'IA générative reste pertinente, elle devra continuer son entraînement.

Une façon évidente de faire cela est d'ouvrir l'ensemble du web et de le laisser explorer son chemin, tout comme Google l'a fait depuis toutes ces années. Mais comme ChatGPT l'a mentionné ci-dessus, cela ouvre la porte à tellement de façons différentes de truquer et corrompre le système qu'il est sûr que cela endommagera la précision.

Même sans jeu malveillant, le défi de rester neutre est très difficile. Prenez, par exemple, la politique. Alors que la droite et la gauche sont fortement en désaccord, les deux côtés ont des aspects de leurs idéologies qui sont logiques et valides - même si l'autre côté ne peut pas ou ne veut pas le reconnaître.

Comment une IA peut-elle juger? Elle ne peut pas le faire sans partialité. Mais l'absence totale de tout préjugé idéologique est elle-même une forme de partialité. Si les humains ne peuvent pas comprendre comment marcher sur cette ligne, comment pouvons-nous nous attendre (ou programmer) une IA à le faire?

Pour explorer ce que serait la vie en l'absence totale de biais ou de contenu émotionnel, les écrivains de science-fiction modernes ont créé des personnages soit strictement logiques, soit sans émotion. Ces prémices sont ensuite devenues des ressorts de l'intrigue, permettant aux auteurs d'explorer les limites de ce que ce serait d'exister sans les faiblesses humaines des émotions et des sentiments.

Aussi : Le chat de Bing de Microsoft discute avec les utilisateurs, révèle des secrets

À moins que les programmeurs d'IA ne cherchent à simuler les émotions ou à accorder une pondération au contenu émotionnel, ou bien essaient d'autoriser un certain niveau de partialité sur ce qui est découvrable en ligne, des chatbots comme ChatGPT seront toujours limités dans leurs réponses. Mais si les programmeurs de l'IA essaient de simuler les émotions ou autorisent un certain niveau de partialité sur ce qui est découvrable en ligne, des chatbots comme ChatGPT vont alors dégénérer dans la même folie que les humains.

Alors, que voulons-nous ? Des réponses limitées à certaines questions, ou toutes les réponses qui semblent provenir d'une discussion avec l'oncle fou Bob à la table de Thanksgiving ? Allez-y. Réfléchissez-y et discutez dans les commentaires ci-dessous, espérons-le sans dégénérer en comportement fou comme celui de l'oncle Bob.