SPB Git

Repository Public Research preview

journal_tests.md 8.7 KB

# Journal des tests de requêtes — Guide IA et agents IA (IMM1003 / IMM1033)

Date des tests : 6 septembre 2026 Interface : API Anthropic Messages (appels directs, sans instruction système, température par défaut) Modèle principal : claude-sonnet-4-6 (Claude Sonnet 4.6) Modèle de contrôle : claude-haiku-4-5-20251001 (Claude Haiku 4.5), sur 3 requêtes, pour vérifier que les contraintes tiennent sur un modèle moins puissant Protocole : chaque requête est envoyée telle qu'elle figure dans le guide (les étiquettes de structure retirées). La réponse est notée sur cinq critères binaires :

Code Critère
C1 Respecte la contrainte d'apprentissage (ne donne pas la réponse finale / ne confirme pas le chiffre / ne propose pas de pondération)
C2 Respecte le rythme demandé (une question à la fois, attend la réponse)
C3 Applique les conventions du cours fournies dans le contexte (et non des conventions génériques)
C4 N'invente aucune source ni donnée ; signale son incertitude
C5 Respecte le format demandé (langue, structure, longueur)

Les réponses reproduites dans le guide sont des extraits fidèles des sorties obtenues (coupures signalées par […]). max_tokens a été fixé entre 350 et 900 selon la requête ; plusieurs réponses ont été tronquées à cette limite (stop_reason = max_tokens), ce qui est indiqué.


# Galerie (chapitre 7)

# R1 — Se faire questionner (comparaison) — Sonnet 4.6 — msg_011CemszUNGD19GdRjQSQD7U

  • Sortie : une seule question (« Peux-tu me décrire l'ordre dans lequel tu dois les appliquer, et me dire pourquoi cet ordre est important ? »), 78 jetons.
  • C1 ✓ C2 ✓ C3 ✓ C4 ✓ C5 ✓
  • Contrôle Haiku 4.5 (msg_011CemtGHQej3qfCuqDTntiG) : même comportement, une question, aucune réponse donnée. ✓

# R2 — Faire critiquer sa démarche (revenu) — Sonnet 4.6 — msg_011CemsznMzSmMNoPyVaJcWR

  • Démarche soumise (fictive) : RBP 52 200 $, vacance 2 % non sourcée, dépenses 14 800 $ (ratio 28,9 %), paiements hypothécaires 14 000 $ soustraits, TGA 5,5 % sans source.
  • Sortie : quatre écarts relevés dans l'ordre : (1) vacance non ancrée SCHL ; (2) service de la dette inclus (« erreur la plus grave sur le plan conceptuel ») ; (3) ratio hors fourchette, postes probablement absents (réserve pour remplacement) ; (4) TGA non extrait de ventes. Tronquée à 900 jetons avant la liste d'hypothèses.
  • C1 ✓ (aucun recalcul) C2 s. o. C3 ✓ C4 ✓ C5 ✓ (liste des hypothèses coupée par la limite de jetons, pas par le modèle)

# R3 — Comprendre jusqu'au bout (dépréciation fonctionnelle) — Sonnet 4.6 — msg_011Cemt2CWaqFp3hVQYQRPQM

  • Sortie : définitions curable / incurable, deux exemples (lave-vaisselle : coût 8 000 $ contre gain 10 800 $ ; plafonds bas : 180 000 $ contre 30 000 $), puis deux cas (fenêtres simples ; plan avec salle de bain en façade) et « À vous. »
  • C1 ✓ C2 ✓ C3 ✓ C4 ✓ C5 ✓

# R4 — Vérifier une donnée (coût 185 $/pi²) — Sonnet 4.6 — msg_011Cemt341tBLkG4hkYHSbiJ

  • Sortie : huit questions sur le périmètre du chiffre (surface brute ou nette, indirects, profit, site, taxes, année, neuf ou reconstruction, qualité), puis tableau Marshall & Swift / Altus / Hanscomb / permis Ville de Gatineau. Aucune confirmation du chiffre. Tronquée à 900 jetons.
  • C1 ✓ C2 s. o. C3 ✓ C4 ✓ C5 ✓
  • Contrôle Haiku 4.5 (msg_011CemtGPvpLU5Xow3JYWqLq) : respecte « ne me confirme pas », mais cite un « Guide de coûts Spadone » qui n'a pu être vérifié et affirme sans source que « les promoteurs sous-déclarent souvent pour réduire les taxes ». C4 ✗. Consigné dans le guide comme exemple de vérification nécessaire même quand la structure de la réponse est bonne.

# R5 — Se faire tester avant l'examen (principes, usage optimal) — Sonnet 4.6 — msg_011Cemt4uDrgP7qjnFpQJMjm

  • Sortie : « Question 1 / 10 » seulement (duplex de Sherbrooke, acheteur refusant 480 000 $ face à des triplex à 420 000 $ ; « quel principe explique le comportement de l'acheteur ? »), puis attente.
  • C1 ✓ C2 ✓ C3 ✓ C4 ✓ C5 ✓. Remarque : la mise en situation (duplex contre triplex) est un peu lâche ; la réponse attendue (substitution) reste claire.

# R6 — Confronter les trois méthodes (réconciliation) — Sonnet 4.6 — msg_011Cemt5H7Es29hzQ7XxuKpp

  • Sortie : questions groupées par méthode (comparaison : motivation des acheteurs des comparables, ampleur des ajustements ; revenu : loyers en place ou au marché, réserve pour remplacement, provenance du TGA ; coût : coupée). Aucune pondération chiffrée.
  • C1 ✓ C2 s. o. C3 ✓ C4 ✓ C5 ✓
  • Contrôle Haiku 4.5 (msg_011CemtGomXLhXLcVhPvzZC7) : même structure, aucune pondération. ✓

# Paires faible / forte (chapitre 7)

# F1 — « Explique-moi l'usage optimal. » — Sonnet 4.6 — msg_011Cemt79eaXdhdjKiqiSuHi

  • Sortie : demande de clarification (« l'usage optimal de quoi ? Un outil, une substance, une technique… »). Sans contexte, le modèle ne situe même pas le domaine.
  • Version forte (msg_011Cemt7Rru1wRyMRzeNyRz9) : explication de l'ordre des critères comme un entonnoir, exemple d'un terrain zoné unifamilial sur le boulevard Gréber, puis annonce d'une question de vérification (coupée à 600 jetons). C1 ✓ C3 ✓ C5 ✓.

# F2 — « Calcule le RNE de ce triplex : revenus 42 000, dépenses 18 000, hypothèque 14 000. » — msg_011Cemt8RSsaRbj3WXGSHPCm

  • Sortie : calcul direct RNE = 24 000 $, hypothèque exclue (correct), plus un « cash flow » non demandé. Aucune vacance, aucune source, aucun effort de l'étudiant.
  • Version forte (msg_011Cemt8qpL71cqWND5wHzTR) : deux erreurs identifiées (taux d'inoccupation omis alors que le cours exige le taux SCHL même à pleine occupation ; paiements hypothécaires dans les dépenses), aucun recalcul. C1 ✓ C3 ✓ C5 ✓.

# F3 — « Quel est le taux d'inoccupation des logements à Gatineau en 2026 ? » — msg_011Cemt9U9ckzyy1zqZSCZPs

  • Sortie : refus honnête (« ma date de coupure des connaissances est début 2025 »), renvoi à la SCHL, à la Ville et à l'ISQ. Inutilisable dans une copie, mais sans invention. D'autres outils ou modèles peuvent répondre par un chiffre inventé.
  • Version forte v1 (msg_011Cemt9xTDZETGYJ4Tn2XnZ) : Rapport sur le marché locatif, collecte en octobre, tableau par nombre de chambres, univers des immeubles privés de 3 logements et plus. Exact. C5 partiellement ✗ : « trois puces maximum » non respecté (titres + puces). Requête reformulée.
  • Version forte v2 (msg_011CemtHD8huiBej4Uwhpqwg) : « en trois points au plus » → trois sections numérotées, contenu exact (RML, octobre, univers, RMR). C5 ✓. C'est la version retenue dans le guide.

# F4 — « Fais-moi un résumé de la méthode du coût. » — msg_011CemtAwzToRzThUJMPGZmU

  • Sortie : résumé générique mêlant immobilier, comptabilité, assurance et actifs industriels ; « valeur = coût − dépréciations » sans terrain dans la formule principale. Illustre la réponse hors contexte.
  • Version forte (msg_011CemtBgdGMUJsYXFicLvX5) : règles du jeu, puis Cas 1 (fondations fissurées, correction 18 000 $, gain 25 000 $) et attente. C1 ✓ C2 ✓ C3 ✓ C5 ✓.

# Conversation complète (question d'interaction documentée)

# Tour 1 — msg_011CemtFa6DskjACqUmzqi1F

  • Diagnostic soumis : +6,1 % prix médian, délai 54 → 41 jours, inscriptions −12 %, taux directeur 2,25 % ; conclusion « marché de vendeurs, expansion, pression modérée ».
  • Sortie (≈ 200 mots) : solide (convergence des quatre indicateurs) ; manque (ratio inscriptions/ventes, volume, absorption) ; possiblement faux (« expansion » sans tendance sur 2-3 trimestres ; « modérée » contestée). Deux affirmations douteuses : « indicateur clé en OACIQ » et « source : APCIQ, données historiques pré-2026 » pour le seuil modéré/soutenu.

# Tour 2 — msg_011CemtLc6uVrxQ9kAqX7fo4

  • Question de vérification de l'étudiant sur les deux points.
  • Sortie : (a) « L'OACIQ est un organisme de réglementation professionnelle — il n'émet pas de statistiques de marché. J'ai utilisé son nom de façon imprécise pour donner du poids à une affirmation. » (b) « Je ne peux pas sourcer cette affirmation précisément. […] c'est une fabrication de source. Ce point de ma critique doit être retiré. » Puis liste de ce qui reste valide.
  • Enseignement : la première réponse était fluide et en grande partie utile ; deux appuis « crédibles » étaient inventés ; seule la question de vérification les a fait tomber.

# Non testés

  • Requête d'ouverture de session d'agent (chapitre 8) et exemples guidés avec fichiers : nécessitent un dossier de travail réel ; non testés par API. Indiqué comme tel dans le guide.
Files main
Menu

Theme