1
0

claude_client.py 19 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365
  1. """Communication avec l'API de Claude (Anthropic)."""
  2. from __future__ import annotations
  3. import base64
  4. import logging
  5. import re
  6. from dataclasses import dataclass
  7. from pathlib import Path
  8. import anthropic
  9. from .config import Settings
  10. from .models import thinking_off
  11. logger = logging.getLogger("chatbot.claude")
  12. SUPPORTED_IMAGE_TYPES = {"image/jpeg", "image/png", "image/gif", "image/webp"}
  13. DEFAULT_PERSONALITY = (
  14. "Tu es un membre sympathique d'un serveur Discord francophone. "
  15. "Tu réponds toujours en français, avec un ton naturel, amical et décontracté, "
  16. "et des réponses plutôt courtes, adaptées à une discussion de chat. "
  17. "Chaque message que tu reçois indique la date, l'heure et le pseudo de son auteur ; "
  18. "plusieurs personnes peuvent parler dans la même conversation. "
  19. "Quand on te montre une image, décris ce que tu vois puis réponds à la question s'il y en a une."
  20. )
  21. # Ajouté automatiquement à la fin de la personnalité, quel que soit le contenu du fichier.
  22. MEMORY_NOTE = (
  23. "\n\nNote technique sur ta mémoire : les images ne sont pas conservées d'un message à l'autre. "
  24. "Dans les messages précédents, la mention « [image jointe : …] » signifie qu'une image a bien été envoyée "
  25. "et que tu l'as réellement vue et analysée à ce moment-là ; ta réponse d'alors en décrit le contenu. "
  26. "Ne dis donc jamais que tu ne l'as pas vue, et ne t'excuse pas à ce sujet. "
  27. "Si on te demande un détail de cette image que ta réponse précédente ne mentionnait pas, "
  28. "explique simplement que tu ne gardes pas les images en mémoire et propose qu'on te la renvoie."
  29. )
  30. # Ajouté lui aussi automatiquement : les messages reçus pendant une réponse sont regroupés.
  31. GROUP_NOTE = (
  32. "\n\nUn même message peut regrouper plusieurs messages Discord, un par ligne, envoyés "
  33. "pendant que tu répondais au précédent : réponds à l'ensemble en une seule réponse, "
  34. "naturellement, sans signaler qu'ils ont été regroupés."
  35. )
  36. # Ajouté lui aussi automatiquement. Formulation générique recommandée par Anthropic : nommer les
  37. # balises de réflexion, ou interdire de réfléchir, rend au contraire leur apparition plus probable.
  38. OUTPUT_NOTE = "\n\nN'inclus pas de balises XML internes ou système dans ta réponse."
  39. # Ajouté quand WEB_SEARCH=on.
  40. WEB_NOTE = (
  41. "\n\nTu as accès à Internet (recherche web et lecture de pages). "
  42. "Ne t'en sers que si la question porte sur l'actualité, des informations récentes ou précises "
  43. "que tu ne connais pas, ou un lien partagé dans la conversation ; sinon réponds directement. "
  44. "Garde des réponses courtes ; quand c'est utile, nomme simplement ta source dans ta phrase "
  45. "(par exemple « selon Famitsu »), sans recopier d'adresse. "
  46. # Le texte écrit avant un appel d'outil n'est jamais affiché (voir _final_text). L'interdire
  47. # pousse au contraire le modèle à écrire ses appels d'outils sous forme de texte.
  48. "Quand tu utilises un outil, tu peux d'abord dire une courte phrase. "
  49. "Si aucun outil ne permet de faire ce qu'on te demande, dis-le au lieu de deviner. "
  50. "Dans les messages précédents, la mention « [recherche web : …] » signifie que tu as bien cherché sur Internet "
  51. "pour y répondre : ta réponse d'alors s'appuyait sur de vrais résultats, même si tu ne les vois plus. "
  52. "Ne prétends donc jamais avoir inventé une réponse marquée ainsi."
  53. )
  54. # Ajouté quand PRESENCE=on : le statut Discord en cours est indiqué au début des messages.
  55. PRESENCE_NOTE = (
  56. "\n\nAu début d'un message, « [ton statut Discord : …] » indique ce que tu fais à ce moment-là "
  57. "(anime que tu regardes, musique que tu écoutes, jeu auquel tu joues, statut personnalisé ou disponibilité) ; "
  58. "tout le serveur le voit sous ton pseudo. C'est vraiment ce que tu es en train de faire : tu peux en parler "
  59. "naturellement si c'est pertinent ou si on te le demande, mais pas à chaque message, et sans recopier cette mention. "
  60. "Seul le statut du dernier message est d'actualité. "
  61. "Quand tu es absente, tu ne réponds qu'à ton retour, et en « Ne pas déranger », seulement au bout de "
  62. "quelques minutes : « [Ces messages sont arrivés pendant que tu étais …] » te l'indique. Réponds alors "
  63. "comme quelqu'un qui revient, naturellement, sans forcément t'excuser."
  64. )
  65. # Demandes de statut personnalisé (pensée du moment, raison d'une absence), écrit avec la
  66. # personnalité du bot. Les clés sont les noms des statuts de presence.py.
  67. CUSTOM_STATUS_REQUESTS = {
  68. "pensee": "Écris le statut personnalisé que tu affiches en ce moment sous ton pseudo Discord : "
  69. "une courte pensée du moment, dans ton style",
  70. "absent": "Tu t'absentes de ton PC pendant {duration}. Écris le statut personnalisé que tu affiches "
  71. "sous ton pseudo Discord pendant ce temps : une raison plausible, dans ton style",
  72. "ne_pas_deranger": "Tu passes en « Ne pas déranger » sur Discord pendant {duration}. Écris le statut "
  73. "personnalisé que tu affiches sous ton pseudo pour expliquer pourquoi : une raison "
  74. "plausible, dans ton style",
  75. }
  76. CUSTOM_STATUS_PROMPT = (
  77. "Nous sommes {now}. {request}, de 60 caractères au plus. Les emojis du serveur ne s'affichent pas "
  78. "dans un statut : si tu veux un emoji, prends un emoji classique (Unicode).{recent} "
  79. "Réponds uniquement par ce statut, sans guillemets ni explication."
  80. )
  81. CUSTOM_EMOJI = re.compile(r"<a?:\w+:\d+>")
  82. # Erreur due à la configuration (clé, crédit, modèle, réglages) : seul l'administrateur peut la corriger.
  83. CONFIG_ERROR = "Je suis mal configuré, préviens l'administrateur du bot."
  84. # Nombre maximal de relances quand l'API met la réponse en pause pendant les recherches.
  85. MAX_CONTINUATIONS = 3
  86. class ClaudeError(Exception):
  87. """Erreur lors de l'appel à Claude, avec un message affichable sur Discord."""
  88. def __init__(self, user_message: str):
  89. super().__init__(user_message)
  90. self.user_message = user_message
  91. @dataclass
  92. class ImageData:
  93. media_type: str
  94. data: bytes
  95. @dataclass
  96. class Answer:
  97. text: str
  98. web_used: bool # Claude a fait au moins une recherche web ou lu une page
  99. class ClaudeClient:
  100. def __init__(self, settings: Settings):
  101. self.settings = settings
  102. # Le SDK réessaie tout seul les erreurs temporaires (surcharge, limite de requêtes…).
  103. self._client = anthropic.AsyncAnthropic(
  104. api_key=settings.anthropic_api_key,
  105. timeout=settings.api_timeout,
  106. max_retries=3,
  107. )
  108. self._personality_cache: tuple[float, str] | None = None
  109. async def close(self) -> None:
  110. await self._client.close()
  111. # ------------------------------------------------------------ personnalité
  112. def personality(self) -> str:
  113. """Lit personality_prompt.txt (relu automatiquement s'il a été modifié)."""
  114. path: Path = self.settings.personality_file
  115. try:
  116. mtime = path.stat().st_mtime
  117. if self._personality_cache is None or self._personality_cache[0] != mtime:
  118. text = path.read_text(encoding="utf-8").strip()
  119. self._personality_cache = (mtime, text or DEFAULT_PERSONALITY)
  120. logger.info("Personnalité chargée depuis %s", path)
  121. return self._personality_cache[1]
  122. except FileNotFoundError:
  123. if self._personality_cache != (0.0, DEFAULT_PERSONALITY):
  124. logger.warning("%s introuvable : utilisation de la personnalité par défaut.", path)
  125. self._personality_cache = (0.0, DEFAULT_PERSONALITY)
  126. return DEFAULT_PERSONALITY
  127. # ------------------------------------------------------------------ appel
  128. @staticmethod
  129. def build_user_content(parts: list[tuple[str, ImageData | None]]) -> str | list[dict]:
  130. """Un ou plusieurs messages à la suite, chacun précédé de son image éventuelle."""
  131. if all(image is None for _, image in parts):
  132. return "\n".join(text for text, _ in parts)
  133. content: list[dict] = []
  134. for text, image in parts:
  135. if image is not None:
  136. content.append({
  137. "type": "image",
  138. "source": {
  139. "type": "base64",
  140. "media_type": image.media_type,
  141. "data": base64.standard_b64encode(image.data).decode("ascii"),
  142. },
  143. })
  144. content.append({"type": "text", "text": text})
  145. return content
  146. async def ask(self, history: list[dict], parts: list[tuple[str, ImageData | None]],
  147. cache_history: bool = True) -> Answer:
  148. """Envoie l'historique + le ou les nouveaux messages (texte, image), et renvoie la réponse de Claude.
  149. cache_history=False évite d'écrire les messages en cache quand l'appel suivant ne les
  150. reprendra pas (mentions : contexte différent à chaque fois)."""
  151. messages = list(history) + [{"role": "user", "content": self.build_user_content(parts)}]
  152. has_image = any(image is not None for _, image in parts)
  153. system = self.personality() + MEMORY_NOTE + GROUP_NOTE + OUTPUT_NOTE
  154. if self.settings.web_search:
  155. system += WEB_NOTE
  156. if self.settings.presence:
  157. system += PRESENCE_NOTE
  158. # Cache de prompt : les outils et la personnalité, identiques d'un message à l'autre, sont
  159. # relus depuis le cache à 10 % du prix (pendant 5 minutes, prolongées à chaque message).
  160. # Le marqueur sur "system" couvre ce bloc fixe ; celui de premier niveau couvre en plus
  161. # l'historique, qui change à chaque message mais reprend le début de la requête précédente.
  162. # Une écriture en cache coûte 25 % de plus : inutile si elle ne sera jamais relue.
  163. params: dict = {
  164. "model": self.settings.model,
  165. "max_tokens": self.settings.max_tokens,
  166. "system": [{"type": "text", "text": system, "cache_control": {"type": "ephemeral"}}],
  167. "messages": messages,
  168. }
  169. if cache_history:
  170. params["cache_control"] = {"type": "ephemeral"}
  171. # Par défaut, les modèles récents réfléchissent avant de répondre, et cette réflexion
  172. # consomme le budget MAX_TOKENS. Avec THINKING=off, on la coupe de la façon propre au
  173. # modèle (voir models.py) ; sur Opus 5.5, impossible : seul EFFORT la réduit.
  174. if self.settings.thinking:
  175. params["thinking"] = {"type": "adaptive"}
  176. elif (off := thinking_off(self.settings.model)) is not None:
  177. params["thinking"] = off
  178. if self.settings.effort:
  179. params["extra_body"] = {"output_config": {"effort": self.settings.effort}}
  180. if self.settings.web_search:
  181. # Outils exécutés par Anthropic : pas de boucle d'outils à gérer de notre côté.
  182. params["tools"] = [
  183. {"type": "web_search_20260209", "name": "web_search", "max_uses": self.settings.web_max_uses},
  184. {"type": "web_fetch_20260209", "name": "web_fetch", "max_uses": self.settings.web_max_uses},
  185. ]
  186. responses = [await self._call(params, has_image)]
  187. # Lors de longues recherches, l'API peut rendre la main avant la fin (pause_turn) :
  188. # on renvoie alors sa réponse partielle telle quelle pour qu'elle continue.
  189. while responses[-1].stop_reason == "pause_turn" and len(responses) <= MAX_CONTINUATIONS:
  190. messages = messages + [{"role": "assistant", "content": responses[-1].content}]
  191. responses.append(await self._call({**params, "messages": messages}, has_image))
  192. text = self._final_text(responses)
  193. web_used = self._log_usage(responses)
  194. stop_reason = responses[-1].stop_reason
  195. if stop_reason == "max_tokens":
  196. logger.warning("Réponse coupée par MAX_TOKENS (%s) : augmente MAX_TOKENS dans le .env "
  197. "si cela arrive souvent.", self.settings.max_tokens)
  198. text += " […]"
  199. elif stop_reason == "pause_turn":
  200. logger.warning("Recherche web toujours en cours après %s relances : réponse partielle.", MAX_CONTINUATIONS)
  201. if not text:
  202. logger.warning("Réponse vide de Claude (stop_reason=%s).", stop_reason)
  203. raise ClaudeError("Je n'ai rien trouvé à répondre à ça.")
  204. return Answer(text, web_used)
  205. async def write_custom_status(self, kind: str, now: str, duration: str, recent: list[str],
  206. max_length: int) -> str | None:
  207. """Statut personnalisé du bot (voir CUSTOM_STATUS_REQUESTS), ou None en cas d'échec."""
  208. recent_part = ""
  209. if recent:
  210. recent_part = " Ne reprends pas tes statuts récents : " + ", ".join(f"« {r} »" for r in recent) + "."
  211. prompt = CUSTOM_STATUS_PROMPT.format(
  212. now=now, request=CUSTOM_STATUS_REQUESTS[kind].format(duration=duration), recent=recent_part,
  213. )
  214. params: dict = {
  215. "model": self.settings.model,
  216. "max_tokens": 1000,
  217. "system": self.personality() + OUTPUT_NOTE,
  218. "messages": [{"role": "user", "content": prompt}],
  219. # Une phrase courte : inutile de réfléchir longtemps.
  220. "extra_body": {"output_config": {"effort": "low"}},
  221. }
  222. if (off := thinking_off(self.settings.model)) is not None:
  223. params["thinking"] = off
  224. try:
  225. response = await self._call(params, has_image=False)
  226. except ClaudeError:
  227. return None
  228. self._log_usage([response])
  229. lines = [line.strip() for line in self._final_text([response]).splitlines() if line.strip()]
  230. # Un emoji du serveur s'afficherait sous forme de code (<:nom:123…>) : on le retire.
  231. thought = CUSTOM_EMOJI.sub("", lines[0]).strip("\"'«» ") if lines else ""
  232. thought = re.sub(r"\s{2,}", " ", thought)
  233. if not thought or "<" in thought: # vide, ou balise interne écrite par erreur
  234. logger.warning("Statut personnalisé inutilisable : %r", thought)
  235. return None
  236. return thought[:max_length]
  237. async def _call(self, params: dict, has_image: bool):
  238. try:
  239. return await self._client.messages.create(**params)
  240. except anthropic.RateLimitError:
  241. logger.warning("Limite de requêtes Anthropic atteinte.")
  242. raise ClaudeError("Je reçois trop de messages en ce moment, réessaie dans une minute.")
  243. except anthropic.APITimeoutError:
  244. logger.warning("Délai dépassé lors de l'appel à Claude.")
  245. raise ClaudeError("Je mets trop de temps à répondre, réessaie dans un instant.")
  246. except anthropic.APIConnectionError as exc:
  247. logger.error("Connexion à l'API impossible : %s", exc)
  248. raise ClaudeError("Je n'arrive pas à joindre mon cerveau pour l'instant, réessaie plus tard.")
  249. except anthropic.BadRequestError as exc:
  250. # Toutes les erreurs 400 ont le même type : seul le texte de l'API en donne la cause.
  251. message = self._api_message(exc).lower()
  252. if has_image and "image" in message:
  253. logger.error("Image refusée par l'API : %s", exc)
  254. raise ClaudeError("Je n'ai pas réussi à lire cette image, essaie avec une autre.")
  255. if "prompt is too long" in message:
  256. logger.error("Requête trop longue pour le modèle : %s", exc)
  257. raise ClaudeError("Ce message est trop long pour moi avec la conversation en cours. "
  258. "Un modérateur peut vider ma mémoire avec /reset.")
  259. if "credit balance" in message:
  260. logger.critical("Crédit Anthropic épuisé : %s", exc)
  261. raise ClaudeError(CONFIG_ERROR)
  262. logger.critical("Requête refusée par l'API, sans doute à cause d'un réglage du .env "
  263. "(MODEL, MAX_TOKENS, THINKING, EFFORT, WEB_SEARCH…) : %s", exc)
  264. raise ClaudeError(CONFIG_ERROR)
  265. except anthropic.AuthenticationError:
  266. logger.critical("Clé API Anthropic invalide : vérifie ANTHROPIC_API_KEY dans le .env.")
  267. raise ClaudeError(CONFIG_ERROR)
  268. except anthropic.PermissionDeniedError as exc:
  269. logger.critical("Accès refusé par l'API (clé sans accès à ce modèle ou à cet outil ?) : %s", exc)
  270. raise ClaudeError(CONFIG_ERROR)
  271. except anthropic.NotFoundError as exc:
  272. logger.critical("Modèle introuvable : vérifie MODEL dans le .env (%s).", exc)
  273. raise ClaudeError(CONFIG_ERROR)
  274. except anthropic.APIStatusError as exc:
  275. logger.error("Erreur de l'API (%s) : %s", exc.status_code, exc)
  276. raise ClaudeError("Une erreur est survenue de mon côté, réessaie dans un instant.")
  277. @staticmethod
  278. def _api_message(exc: anthropic.APIStatusError) -> str:
  279. """Texte de l'erreur renvoyée par l'API ({"error": {"message": …}})."""
  280. body = exc.body
  281. if isinstance(body, dict) and isinstance(body.get("error"), dict):
  282. return str(body["error"].get("message", ""))
  283. return str(exc)
  284. @staticmethod
  285. def _final_text(responses) -> str:
  286. """Texte de la réponse finale, sans les commentaires écrits entre deux recherches."""
  287. parts: list[str] = []
  288. for response in responses:
  289. for block in response.content:
  290. if block.type == "text":
  291. parts.append(block.text)
  292. elif block.type not in ("thinking", "redacted_thinking"):
  293. # Appel ou résultat d'outil : le texte écrit avant n'était qu'un commentaire.
  294. parts = []
  295. return "".join(parts).strip()
  296. def _log_usage(self, responses) -> bool:
  297. """Journalise la consommation et indique si Claude a utilisé Internet."""
  298. input_tokens = sum(r.usage.input_tokens for r in responses)
  299. cache_write = sum(r.usage.cache_creation_input_tokens or 0 for r in responses)
  300. cache_read = sum(r.usage.cache_read_input_tokens or 0 for r in responses)
  301. output_tokens = sum(r.usage.output_tokens for r in responses)
  302. searches = fetches = 0
  303. for r in responses:
  304. if r.usage.server_tool_use:
  305. searches += r.usage.server_tool_use.web_search_requests or 0
  306. fetches += r.usage.server_tool_use.web_fetch_requests or 0
  307. price_input, price_output = self.settings.price_input_per_mtok, self.settings.price_output_per_mtok
  308. if price_input is None or price_output is None:
  309. cost = "inconnu (renseigne PRICE_INPUT_PER_MTOK et PRICE_OUTPUT_PER_MTOK dans le .env)"
  310. else:
  311. # Écriture en cache : 125 % du prix d'entrée ; lecture depuis le cache : 10 %.
  312. amount = ((input_tokens + cache_write * 1.25 + cache_read * 0.1) * price_input
  313. + output_tokens * price_output) / 1_000_000
  314. amount += searches * self.settings.price_web_search_per_1000 / 1000
  315. cost = f"{amount:.5f} $"
  316. web = f", recherches web : {searches}, pages lues : {fetches}" if searches or fetches else ""
  317. logger.info(
  318. "Appel Claude (%s) — entrée : %s tokens (+ cache : %s lus, %s écrits), sortie : %s tokens%s, "
  319. "coût estimé : %s",
  320. responses[-1].model, input_tokens, cache_read, cache_write, output_tokens, web, cost,
  321. )
  322. return bool(searches or fetches)