claude_client.py 12 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246
  1. """Communication avec l'API de Claude (Anthropic)."""
  2. from __future__ import annotations
  3. import base64
  4. import logging
  5. from dataclasses import dataclass
  6. from pathlib import Path
  7. import anthropic
  8. from .config import Settings
  9. from .models import thinking_off
  10. logger = logging.getLogger("chatbot.claude")
  11. SUPPORTED_IMAGE_TYPES = {"image/jpeg", "image/png", "image/gif", "image/webp"}
  12. DEFAULT_PERSONALITY = (
  13. "Tu es un membre sympathique d'un serveur Discord francophone. "
  14. "Tu réponds toujours en français, avec un ton naturel, amical et décontracté, "
  15. "et des réponses plutôt courtes, adaptées à une discussion de chat. "
  16. "Chaque message que tu reçois indique la date, l'heure et le pseudo de son auteur ; "
  17. "plusieurs personnes peuvent parler dans la même conversation. "
  18. "Quand on te montre une image, décris ce que tu vois puis réponds à la question s'il y en a une."
  19. )
  20. # Ajouté automatiquement à la fin de la personnalité, quel que soit le contenu du fichier.
  21. MEMORY_NOTE = (
  22. "\n\nNote technique sur ta mémoire : les images ne sont pas conservées d'un message à l'autre. "
  23. "Dans les messages précédents, la mention « [image jointe : …] » signifie qu'une image a bien été envoyée "
  24. "et que tu l'as réellement vue et analysée à ce moment-là ; ta réponse d'alors en décrit le contenu. "
  25. "Ne dis donc jamais que tu ne l'as pas vue, et ne t'excuse pas à ce sujet. "
  26. "Si on te demande un détail de cette image que ta réponse précédente ne mentionnait pas, "
  27. "explique simplement que tu ne gardes pas les images en mémoire et propose qu'on te la renvoie."
  28. )
  29. # Ajouté quand WEB_SEARCH=on.
  30. WEB_NOTE = (
  31. "\n\nTu as accès à Internet (recherche web et lecture de pages). "
  32. "Ne t'en sers que si la question porte sur l'actualité, des informations récentes ou précises "
  33. "que tu ne connais pas, ou un lien partagé dans la conversation ; sinon réponds directement. "
  34. "Garde des réponses courtes ; quand c'est utile, nomme simplement ta source dans ta phrase "
  35. "(par exemple « selon Famitsu »), sans recopier d'adresse. "
  36. "Ne commente pas tes recherches (pas de « je vais vérifier », « je regarde le résultat »…) : donne directement la réponse. "
  37. "Dans les messages précédents, la mention « [recherche web : …] » signifie que tu as bien cherché sur Internet "
  38. "pour y répondre : ta réponse d'alors s'appuyait sur de vrais résultats, même si tu ne les vois plus. "
  39. "Ne prétends donc jamais avoir inventé une réponse marquée ainsi."
  40. )
  41. # Nombre maximal de relances quand l'API met la réponse en pause pendant les recherches.
  42. MAX_CONTINUATIONS = 3
  43. class ClaudeError(Exception):
  44. """Erreur lors de l'appel à Claude, avec un message affichable sur Discord."""
  45. def __init__(self, user_message: str):
  46. super().__init__(user_message)
  47. self.user_message = user_message
  48. @dataclass
  49. class ImageData:
  50. media_type: str
  51. data: bytes
  52. @dataclass
  53. class Answer:
  54. text: str
  55. web_used: bool # Claude a fait au moins une recherche web ou lu une page
  56. class ClaudeClient:
  57. def __init__(self, settings: Settings):
  58. self.settings = settings
  59. # Le SDK réessaie tout seul les erreurs temporaires (surcharge, limite de requêtes…).
  60. self._client = anthropic.AsyncAnthropic(
  61. api_key=settings.anthropic_api_key,
  62. timeout=settings.api_timeout,
  63. max_retries=3,
  64. )
  65. self._personality_cache: tuple[float, str] | None = None
  66. async def close(self) -> None:
  67. await self._client.close()
  68. # ------------------------------------------------------------ personnalité
  69. def personality(self) -> str:
  70. """Lit personality_prompt.txt (relu automatiquement s'il a été modifié)."""
  71. path: Path = self.settings.personality_file
  72. try:
  73. mtime = path.stat().st_mtime
  74. if self._personality_cache is None or self._personality_cache[0] != mtime:
  75. text = path.read_text(encoding="utf-8").strip()
  76. self._personality_cache = (mtime, text or DEFAULT_PERSONALITY)
  77. logger.info("Personnalité chargée depuis %s", path)
  78. return self._personality_cache[1]
  79. except FileNotFoundError:
  80. if self._personality_cache != (0.0, DEFAULT_PERSONALITY):
  81. logger.warning("%s introuvable : utilisation de la personnalité par défaut.", path)
  82. self._personality_cache = (0.0, DEFAULT_PERSONALITY)
  83. return DEFAULT_PERSONALITY
  84. # ------------------------------------------------------------------ appel
  85. @staticmethod
  86. def build_user_content(text: str, image: ImageData | None = None) -> str | list[dict]:
  87. if image is None:
  88. return text
  89. return [
  90. {
  91. "type": "image",
  92. "source": {
  93. "type": "base64",
  94. "media_type": image.media_type,
  95. "data": base64.standard_b64encode(image.data).decode("ascii"),
  96. },
  97. },
  98. {"type": "text", "text": text},
  99. ]
  100. async def ask(self, history: list[dict], user_text: str, image: ImageData | None = None) -> Answer:
  101. """Envoie l'historique + le nouveau message, et renvoie la réponse de Claude."""
  102. messages = list(history) + [{"role": "user", "content": self.build_user_content(user_text, image)}]
  103. system = self.personality() + MEMORY_NOTE
  104. if self.settings.web_search:
  105. system += WEB_NOTE
  106. # Cache de prompt : les outils et la personnalité, identiques d'un message à l'autre, sont
  107. # relus depuis le cache à 10 % du prix (pendant 5 minutes, prolongées à chaque message).
  108. # Le marqueur sur "system" couvre ce bloc fixe ; celui de premier niveau couvre en plus
  109. # l'historique, qui change à chaque message mais reprend le début de la requête précédente.
  110. params: dict = {
  111. "model": self.settings.model,
  112. "max_tokens": self.settings.max_tokens,
  113. "system": [{"type": "text", "text": system, "cache_control": {"type": "ephemeral"}}],
  114. "messages": messages,
  115. "cache_control": {"type": "ephemeral"},
  116. }
  117. # Par défaut, les modèles récents réfléchissent avant de répondre, et cette réflexion
  118. # consomme le budget MAX_TOKENS. Avec THINKING=off, on la coupe de la façon propre au
  119. # modèle (voir models.py) ; sur Opus 5.5, impossible : seul EFFORT la réduit.
  120. if self.settings.thinking:
  121. params["thinking"] = {"type": "adaptive"}
  122. elif (off := thinking_off(self.settings.model)) is not None:
  123. params["thinking"] = off
  124. if self.settings.effort:
  125. params["extra_body"] = {"output_config": {"effort": self.settings.effort}}
  126. if self.settings.web_search:
  127. # Outils exécutés par Anthropic : pas de boucle d'outils à gérer de notre côté.
  128. params["tools"] = [
  129. {"type": "web_search_20260209", "name": "web_search", "max_uses": self.settings.web_max_uses},
  130. {"type": "web_fetch_20260209", "name": "web_fetch", "max_uses": self.settings.web_max_uses},
  131. ]
  132. responses = [await self._call(params, image)]
  133. # Lors de longues recherches, l'API peut rendre la main avant la fin (pause_turn) :
  134. # on renvoie alors sa réponse partielle telle quelle pour qu'elle continue.
  135. while responses[-1].stop_reason == "pause_turn" and len(responses) <= MAX_CONTINUATIONS:
  136. messages = messages + [{"role": "assistant", "content": responses[-1].content}]
  137. responses.append(await self._call({**params, "messages": messages}, image))
  138. text = self._final_text(responses)
  139. web_used = self._log_usage(responses)
  140. stop_reason = responses[-1].stop_reason
  141. if stop_reason == "max_tokens":
  142. logger.warning("Réponse coupée par MAX_TOKENS (%s) : augmente MAX_TOKENS dans le .env "
  143. "si cela arrive souvent.", self.settings.max_tokens)
  144. text += " […]"
  145. elif stop_reason == "pause_turn":
  146. logger.warning("Recherche web toujours en cours après %s relances : réponse partielle.", MAX_CONTINUATIONS)
  147. if not text:
  148. logger.warning("Réponse vide de Claude (stop_reason=%s).", stop_reason)
  149. raise ClaudeError("Je n'ai rien trouvé à répondre à ça.")
  150. return Answer(text, web_used)
  151. async def _call(self, params: dict, image: ImageData | None):
  152. try:
  153. return await self._client.messages.create(**params)
  154. except anthropic.RateLimitError:
  155. logger.warning("Limite de requêtes Anthropic atteinte.")
  156. raise ClaudeError("Je reçois trop de messages en ce moment, réessaie dans une minute.")
  157. except anthropic.APITimeoutError:
  158. logger.warning("Délai dépassé lors de l'appel à Claude.")
  159. raise ClaudeError("Je mets trop de temps à répondre, réessaie dans un instant.")
  160. except anthropic.APIConnectionError as exc:
  161. logger.error("Connexion à l'API impossible : %s", exc)
  162. raise ClaudeError("Je n'arrive pas à joindre mon cerveau pour l'instant, réessaie plus tard.")
  163. except anthropic.BadRequestError as exc:
  164. logger.error("Requête refusée par l'API : %s", exc)
  165. if image is not None:
  166. raise ClaudeError("Je n'ai pas réussi à lire cette image, essaie avec une autre.")
  167. raise ClaudeError("Ta demande a été refusée par l'API, essaie de la reformuler.")
  168. except anthropic.AuthenticationError:
  169. logger.critical("Clé API Anthropic invalide : vérifie ANTHROPIC_API_KEY dans le .env.")
  170. raise ClaudeError("Je suis mal configuré, préviens l'administrateur du bot.")
  171. except anthropic.APIStatusError as exc:
  172. logger.error("Erreur de l'API (%s) : %s", exc.status_code, exc)
  173. raise ClaudeError("Une erreur est survenue de mon côté, réessaie dans un instant.")
  174. @staticmethod
  175. def _final_text(responses) -> str:
  176. """Texte de la réponse finale, sans les commentaires écrits entre deux recherches."""
  177. parts: list[str] = []
  178. for response in responses:
  179. for block in response.content:
  180. if block.type == "text":
  181. parts.append(block.text)
  182. elif block.type not in ("thinking", "redacted_thinking"):
  183. # Appel ou résultat d'outil : le texte écrit avant n'était qu'un commentaire.
  184. parts = []
  185. return "".join(parts).strip()
  186. def _log_usage(self, responses) -> bool:
  187. """Journalise la consommation et indique si Claude a utilisé Internet."""
  188. input_tokens = sum(r.usage.input_tokens for r in responses)
  189. cache_write = sum(r.usage.cache_creation_input_tokens or 0 for r in responses)
  190. cache_read = sum(r.usage.cache_read_input_tokens or 0 for r in responses)
  191. output_tokens = sum(r.usage.output_tokens for r in responses)
  192. searches = fetches = 0
  193. for r in responses:
  194. if r.usage.server_tool_use:
  195. searches += r.usage.server_tool_use.web_search_requests or 0
  196. fetches += r.usage.server_tool_use.web_fetch_requests or 0
  197. price_input, price_output = self.settings.price_input_per_mtok, self.settings.price_output_per_mtok
  198. if price_input is None or price_output is None:
  199. cost = "inconnu (renseigne PRICE_INPUT_PER_MTOK et PRICE_OUTPUT_PER_MTOK dans le .env)"
  200. else:
  201. # Écriture en cache : 125 % du prix d'entrée ; lecture depuis le cache : 10 %.
  202. amount = ((input_tokens + cache_write * 1.25 + cache_read * 0.1) * price_input
  203. + output_tokens * price_output) / 1_000_000
  204. amount += searches * self.settings.price_web_search_per_1000 / 1000
  205. cost = f"{amount:.5f} $"
  206. web = f", recherches web : {searches}, pages lues : {fetches}" if searches or fetches else ""
  207. logger.info(
  208. "Appel Claude (%s) — entrée : %s tokens (+ cache : %s lus, %s écrits), sortie : %s tokens%s, "
  209. "coût estimé : %s",
  210. responses[-1].model, input_tokens, cache_read, cache_write, output_tokens, web, cost,
  211. )
  212. return bool(searches or fetches)