claude_client.py 13 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263
  1. """Communication avec l'API de Claude (Anthropic)."""
  2. from __future__ import annotations
  3. import base64
  4. import logging
  5. from dataclasses import dataclass
  6. from pathlib import Path
  7. import anthropic
  8. from .config import Settings
  9. from .models import thinking_off
  10. logger = logging.getLogger("chatbot.claude")
  11. SUPPORTED_IMAGE_TYPES = {"image/jpeg", "image/png", "image/gif", "image/webp"}
  12. DEFAULT_PERSONALITY = (
  13. "Tu es un membre sympathique d'un serveur Discord francophone. "
  14. "Tu réponds toujours en français, avec un ton naturel, amical et décontracté, "
  15. "et des réponses plutôt courtes, adaptées à une discussion de chat. "
  16. "Chaque message que tu reçois indique la date, l'heure et le pseudo de son auteur ; "
  17. "plusieurs personnes peuvent parler dans la même conversation. "
  18. "Quand on te montre une image, décris ce que tu vois puis réponds à la question s'il y en a une."
  19. )
  20. # Ajouté automatiquement à la fin de la personnalité, quel que soit le contenu du fichier.
  21. MEMORY_NOTE = (
  22. "\n\nNote technique sur ta mémoire : les images ne sont pas conservées d'un message à l'autre. "
  23. "Dans les messages précédents, la mention « [image jointe : …] » signifie qu'une image a bien été envoyée "
  24. "et que tu l'as réellement vue et analysée à ce moment-là ; ta réponse d'alors en décrit le contenu. "
  25. "Ne dis donc jamais que tu ne l'as pas vue, et ne t'excuse pas à ce sujet. "
  26. "Si on te demande un détail de cette image que ta réponse précédente ne mentionnait pas, "
  27. "explique simplement que tu ne gardes pas les images en mémoire et propose qu'on te la renvoie."
  28. )
  29. # Ajouté lui aussi automatiquement : les messages reçus pendant une réponse sont regroupés.
  30. GROUP_NOTE = (
  31. "\n\nUn même message peut regrouper plusieurs messages Discord, un par ligne, envoyés "
  32. "pendant que tu répondais au précédent : réponds à l'ensemble en une seule réponse, "
  33. "naturellement, sans signaler qu'ils ont été regroupés."
  34. )
  35. # Ajouté quand WEB_SEARCH=on.
  36. WEB_NOTE = (
  37. "\n\nTu as accès à Internet (recherche web et lecture de pages). "
  38. "Ne t'en sers que si la question porte sur l'actualité, des informations récentes ou précises "
  39. "que tu ne connais pas, ou un lien partagé dans la conversation ; sinon réponds directement. "
  40. "Garde des réponses courtes ; quand c'est utile, nomme simplement ta source dans ta phrase "
  41. "(par exemple « selon Famitsu »), sans recopier d'adresse. "
  42. "Ne commente pas tes recherches (pas de « je vais vérifier », « je regarde le résultat »…) : donne directement la réponse. "
  43. "Dans les messages précédents, la mention « [recherche web : …] » signifie que tu as bien cherché sur Internet "
  44. "pour y répondre : ta réponse d'alors s'appuyait sur de vrais résultats, même si tu ne les vois plus. "
  45. "Ne prétends donc jamais avoir inventé une réponse marquée ainsi."
  46. )
  47. # Nombre maximal de relances quand l'API met la réponse en pause pendant les recherches.
  48. MAX_CONTINUATIONS = 3
  49. class ClaudeError(Exception):
  50. """Erreur lors de l'appel à Claude, avec un message affichable sur Discord."""
  51. def __init__(self, user_message: str):
  52. super().__init__(user_message)
  53. self.user_message = user_message
  54. @dataclass
  55. class ImageData:
  56. media_type: str
  57. data: bytes
  58. @dataclass
  59. class Answer:
  60. text: str
  61. web_used: bool # Claude a fait au moins une recherche web ou lu une page
  62. class ClaudeClient:
  63. def __init__(self, settings: Settings):
  64. self.settings = settings
  65. # Le SDK réessaie tout seul les erreurs temporaires (surcharge, limite de requêtes…).
  66. self._client = anthropic.AsyncAnthropic(
  67. api_key=settings.anthropic_api_key,
  68. timeout=settings.api_timeout,
  69. max_retries=3,
  70. )
  71. self._personality_cache: tuple[float, str] | None = None
  72. async def close(self) -> None:
  73. await self._client.close()
  74. # ------------------------------------------------------------ personnalité
  75. def personality(self) -> str:
  76. """Lit personality_prompt.txt (relu automatiquement s'il a été modifié)."""
  77. path: Path = self.settings.personality_file
  78. try:
  79. mtime = path.stat().st_mtime
  80. if self._personality_cache is None or self._personality_cache[0] != mtime:
  81. text = path.read_text(encoding="utf-8").strip()
  82. self._personality_cache = (mtime, text or DEFAULT_PERSONALITY)
  83. logger.info("Personnalité chargée depuis %s", path)
  84. return self._personality_cache[1]
  85. except FileNotFoundError:
  86. if self._personality_cache != (0.0, DEFAULT_PERSONALITY):
  87. logger.warning("%s introuvable : utilisation de la personnalité par défaut.", path)
  88. self._personality_cache = (0.0, DEFAULT_PERSONALITY)
  89. return DEFAULT_PERSONALITY
  90. # ------------------------------------------------------------------ appel
  91. @staticmethod
  92. def build_user_content(parts: list[tuple[str, ImageData | None]]) -> str | list[dict]:
  93. """Un ou plusieurs messages à la suite, chacun précédé de son image éventuelle."""
  94. if all(image is None for _, image in parts):
  95. return "\n".join(text for text, _ in parts)
  96. content: list[dict] = []
  97. for text, image in parts:
  98. if image is not None:
  99. content.append({
  100. "type": "image",
  101. "source": {
  102. "type": "base64",
  103. "media_type": image.media_type,
  104. "data": base64.standard_b64encode(image.data).decode("ascii"),
  105. },
  106. })
  107. content.append({"type": "text", "text": text})
  108. return content
  109. async def ask(self, history: list[dict], parts: list[tuple[str, ImageData | None]],
  110. cache_history: bool = True) -> Answer:
  111. """Envoie l'historique + le ou les nouveaux messages (texte, image), et renvoie la réponse de Claude.
  112. cache_history=False évite d'écrire les messages en cache quand l'appel suivant ne les
  113. reprendra pas (mentions : contexte différent à chaque fois)."""
  114. messages = list(history) + [{"role": "user", "content": self.build_user_content(parts)}]
  115. has_image = any(image is not None for _, image in parts)
  116. system = self.personality() + MEMORY_NOTE + GROUP_NOTE
  117. if self.settings.web_search:
  118. system += WEB_NOTE
  119. # Cache de prompt : les outils et la personnalité, identiques d'un message à l'autre, sont
  120. # relus depuis le cache à 10 % du prix (pendant 5 minutes, prolongées à chaque message).
  121. # Le marqueur sur "system" couvre ce bloc fixe ; celui de premier niveau couvre en plus
  122. # l'historique, qui change à chaque message mais reprend le début de la requête précédente.
  123. # Une écriture en cache coûte 25 % de plus : inutile si elle ne sera jamais relue.
  124. params: dict = {
  125. "model": self.settings.model,
  126. "max_tokens": self.settings.max_tokens,
  127. "system": [{"type": "text", "text": system, "cache_control": {"type": "ephemeral"}}],
  128. "messages": messages,
  129. }
  130. if cache_history:
  131. params["cache_control"] = {"type": "ephemeral"}
  132. # Par défaut, les modèles récents réfléchissent avant de répondre, et cette réflexion
  133. # consomme le budget MAX_TOKENS. Avec THINKING=off, on la coupe de la façon propre au
  134. # modèle (voir models.py) ; sur Opus 5.5, impossible : seul EFFORT la réduit.
  135. if self.settings.thinking:
  136. params["thinking"] = {"type": "adaptive"}
  137. elif (off := thinking_off(self.settings.model)) is not None:
  138. params["thinking"] = off
  139. if self.settings.effort:
  140. params["extra_body"] = {"output_config": {"effort": self.settings.effort}}
  141. if self.settings.web_search:
  142. # Outils exécutés par Anthropic : pas de boucle d'outils à gérer de notre côté.
  143. params["tools"] = [
  144. {"type": "web_search_20260209", "name": "web_search", "max_uses": self.settings.web_max_uses},
  145. {"type": "web_fetch_20260209", "name": "web_fetch", "max_uses": self.settings.web_max_uses},
  146. ]
  147. responses = [await self._call(params, has_image)]
  148. # Lors de longues recherches, l'API peut rendre la main avant la fin (pause_turn) :
  149. # on renvoie alors sa réponse partielle telle quelle pour qu'elle continue.
  150. while responses[-1].stop_reason == "pause_turn" and len(responses) <= MAX_CONTINUATIONS:
  151. messages = messages + [{"role": "assistant", "content": responses[-1].content}]
  152. responses.append(await self._call({**params, "messages": messages}, has_image))
  153. text = self._final_text(responses)
  154. web_used = self._log_usage(responses)
  155. stop_reason = responses[-1].stop_reason
  156. if stop_reason == "max_tokens":
  157. logger.warning("Réponse coupée par MAX_TOKENS (%s) : augmente MAX_TOKENS dans le .env "
  158. "si cela arrive souvent.", self.settings.max_tokens)
  159. text += " […]"
  160. elif stop_reason == "pause_turn":
  161. logger.warning("Recherche web toujours en cours après %s relances : réponse partielle.", MAX_CONTINUATIONS)
  162. if not text:
  163. logger.warning("Réponse vide de Claude (stop_reason=%s).", stop_reason)
  164. raise ClaudeError("Je n'ai rien trouvé à répondre à ça.")
  165. return Answer(text, web_used)
  166. async def _call(self, params: dict, has_image: bool):
  167. try:
  168. return await self._client.messages.create(**params)
  169. except anthropic.RateLimitError:
  170. logger.warning("Limite de requêtes Anthropic atteinte.")
  171. raise ClaudeError("Je reçois trop de messages en ce moment, réessaie dans une minute.")
  172. except anthropic.APITimeoutError:
  173. logger.warning("Délai dépassé lors de l'appel à Claude.")
  174. raise ClaudeError("Je mets trop de temps à répondre, réessaie dans un instant.")
  175. except anthropic.APIConnectionError as exc:
  176. logger.error("Connexion à l'API impossible : %s", exc)
  177. raise ClaudeError("Je n'arrive pas à joindre mon cerveau pour l'instant, réessaie plus tard.")
  178. except anthropic.BadRequestError as exc:
  179. logger.error("Requête refusée par l'API : %s", exc)
  180. if has_image:
  181. raise ClaudeError("Je n'ai pas réussi à lire cette image, essaie avec une autre.")
  182. raise ClaudeError("Ta demande a été refusée par l'API, essaie de la reformuler.")
  183. except anthropic.AuthenticationError:
  184. logger.critical("Clé API Anthropic invalide : vérifie ANTHROPIC_API_KEY dans le .env.")
  185. raise ClaudeError("Je suis mal configuré, préviens l'administrateur du bot.")
  186. except anthropic.APIStatusError as exc:
  187. logger.error("Erreur de l'API (%s) : %s", exc.status_code, exc)
  188. raise ClaudeError("Une erreur est survenue de mon côté, réessaie dans un instant.")
  189. @staticmethod
  190. def _final_text(responses) -> str:
  191. """Texte de la réponse finale, sans les commentaires écrits entre deux recherches."""
  192. parts: list[str] = []
  193. for response in responses:
  194. for block in response.content:
  195. if block.type == "text":
  196. parts.append(block.text)
  197. elif block.type not in ("thinking", "redacted_thinking"):
  198. # Appel ou résultat d'outil : le texte écrit avant n'était qu'un commentaire.
  199. parts = []
  200. return "".join(parts).strip()
  201. def _log_usage(self, responses) -> bool:
  202. """Journalise la consommation et indique si Claude a utilisé Internet."""
  203. input_tokens = sum(r.usage.input_tokens for r in responses)
  204. cache_write = sum(r.usage.cache_creation_input_tokens or 0 for r in responses)
  205. cache_read = sum(r.usage.cache_read_input_tokens or 0 for r in responses)
  206. output_tokens = sum(r.usage.output_tokens for r in responses)
  207. searches = fetches = 0
  208. for r in responses:
  209. if r.usage.server_tool_use:
  210. searches += r.usage.server_tool_use.web_search_requests or 0
  211. fetches += r.usage.server_tool_use.web_fetch_requests or 0
  212. price_input, price_output = self.settings.price_input_per_mtok, self.settings.price_output_per_mtok
  213. if price_input is None or price_output is None:
  214. cost = "inconnu (renseigne PRICE_INPUT_PER_MTOK et PRICE_OUTPUT_PER_MTOK dans le .env)"
  215. else:
  216. # Écriture en cache : 125 % du prix d'entrée ; lecture depuis le cache : 10 %.
  217. amount = ((input_tokens + cache_write * 1.25 + cache_read * 0.1) * price_input
  218. + output_tokens * price_output) / 1_000_000
  219. amount += searches * self.settings.price_web_search_per_1000 / 1000
  220. cost = f"{amount:.5f} $"
  221. web = f", recherches web : {searches}, pages lues : {fetches}" if searches or fetches else ""
  222. logger.info(
  223. "Appel Claude (%s) — entrée : %s tokens (+ cache : %s lus, %s écrits), sortie : %s tokens%s, "
  224. "coût estimé : %s",
  225. responses[-1].model, input_tokens, cache_read, cache_write, output_tokens, web, cost,
  226. )
  227. return bool(searches or fetches)