feat(review): agent 侧虚拟工具 inspect_region —— 按可读分辨率放大指定区域
解决三个缺口:① 放大没复用标定/瓦片数学(LLM 一次 zoom 只出一张,宽区域仍读不清);
②「看清没」由 VLM 自评(易过度自信/幻觉);③ 只能按 handle / 手算 bbox 指认,
图上看到但没 handle 的东西指认不了。
核心思路:把「放大」升级成一个语义化工具——LLM 只指认「要看哪里」,由 agent 复用
tiling.py 的标定数学算出该切几张、每张覆盖多大,用构造保证可读。
新增 dwg_review/inspect.py(agent 侧,不编 DLL):
- TOOL_SCHEMA:inspect_region(target, purpose);target 三形态 {handle} / {window} /
{label,cx,cy,span},purpose = text(8px) / line(6px)。
- InspectState:单图框内「截图标签 → 世界可见范围」登记表,支持逐级下钻
(返回的 inspect-N 可继续作为 label 指认)。
- resolve_target / _point_box:label+cx+cy → WCS。cy 是图像坐标(上→下),
世界 y 必须翻转(y = y2 - cy*H)——单测专门钉住。
- plan_tiles:复用 world_per_px + tiles_for_box + subdivide;超 INSPECT_MAX_TILES(4)
则硬失败并给出「缩小 target / 分多次请求」的指引(不静默降级);拿不到比例/像素
则退回单张并如实告知。
关键几何:CAD 的 _.ZOOM _W 是等比适配(不拉伸),故「截图上的归一化坐标」必须按
max(W/ew, H/eh) 反算真实可见范围(新增 tiling.visible_box)——直接用送进去的窗口会偏。
zoom_to_window 返回的 view 是「加过 margin 的窗口」,不是可见范围,不能混用。
证据层配套:evidence_model.make_image(..., window=) 记录每张图的可见世界范围;
capture_images 用 view_px(overall 图原始像素)+ visible_box 逐张登记。
子循环接入:_run_readonly_tool 在只读白名单校验之前拦截 inspect_region(它不在
READ_ONLY_TOOLS 里,内部只调白名单内的只读 MCP 工具);_review_tools 启用时用
inspect_region 取代三个裸视口工具;inspect_region 计入 _VIEW_TOOLS → 结束复位视口。
配置:INSPECT_ENABLED(True) / INSPECT_MAX_TILES(4)。
端到端实测(真实图纸 1 图框):取证与审查两阶段均在最大化态、结束精确还原(4 项 PASS);
LLM 的 11 次取证调用里 2 次是 inspect_region,且都显式给 window + purpose:"text"
(x[20000,115000] y[-6500,3000],即 A0 图框底部横条=标题栏所在)。
验收口径达成:报告报出标题栏乱码 ???????????????,而 get_text_content 对全图返回 0 条文字
(本图文字全在块/自定义实体内)→ 块内文字是被视觉放大读出来的。
pytest 343 passed。
This commit is contained in:
1 parent
3bc64b6c3e
commit
b757892c67
18 files changed
+1003
-45
No files matched your search
@@ -163,6 +163,66 @@ def boxes_intersect(a, b, eps=0.0):
|
||||
)
|
||||
|
||||
|
||||
def box_to_window(box):
|
||||
"""bbox 元组 → window 对象(`zoom_to_window` 的入参);非法返回 None。"""
|
||||
b = norm_box(box)
|
||||
if b is None:
|
||||
return None
|
||||
return {"min_x": b[0], "min_y": b[1], "max_x": b[2], "max_y": b[3]}
|
||||
|
||||
|
||||
def window_to_box(win):
|
||||
"""window 对象 → bbox 元组;非法返回 None。"""
|
||||
if not isinstance(win, dict):
|
||||
return None
|
||||
return norm_box(
|
||||
[win.get("min_x"), win.get("min_y"), win.get("max_x"), win.get("max_y")]
|
||||
)
|
||||
|
||||
|
||||
def expand_box(box, frac):
|
||||
"""把 bbox 四周按 `frac` 比例外扩;非法输入返回 None。"""
|
||||
b = norm_box(box)
|
||||
if b is None:
|
||||
return None
|
||||
try:
|
||||
f = float(frac or 0.0)
|
||||
except (TypeError, ValueError):
|
||||
f = 0.0
|
||||
mx, my = (b[2] - b[0]) * f, (b[3] - b[1]) * f
|
||||
return (b[0] - mx, b[1] - my, b[2] + mx, b[3] + my)
|
||||
|
||||
|
||||
def visible_box(box, view_px, margin=0.0):
|
||||
"""`zoom_to_window(box, margin)` 之后**实际可见**的世界范围。
|
||||
|
||||
CAD 的 `_.ZOOM _W` 是**等比适配**(不拉伸):指定窗口按视口宽高比放大到刚好装下,
|
||||
多余的一维露出更多内容。故可见范围 = 以窗口中心为中心、按 `max(W/ew, H/eh)`
|
||||
放大后的矩形。`view_px` 为截图的**原始像素**(未下采样);拿不到时退回
|
||||
「窗口外扩 margin」的近似值。
|
||||
|
||||
用途:审查阶段把「截图上的归一化坐标」准确映射回 WCS(逐级下钻)。
|
||||
"""
|
||||
b = expand_box(box, margin)
|
||||
if b is None:
|
||||
return None
|
||||
if not view_px or len(view_px) != 2:
|
||||
return b
|
||||
try:
|
||||
ew, eh = int(view_px[0]), int(view_px[1])
|
||||
except (TypeError, ValueError):
|
||||
return b
|
||||
if ew <= 0 or eh <= 0:
|
||||
return b
|
||||
w, h = b[2] - b[0], b[3] - b[1]
|
||||
if w <= 0 or h <= 0:
|
||||
return b
|
||||
k = max(w / ew, h / eh)
|
||||
vw, vh = ew * k, eh * k
|
||||
cx, cy = (b[0] + b[2]) / 2.0, (b[1] + b[3]) / 2.0
|
||||
return (cx - vw / 2.0, cy - vh / 2.0, cx + vw / 2.0, cy + vh / 2.0)
|
||||
|
||||
|
||||
def cluster_text_flags(clusters, text_boxes):
|
||||
"""标记每个簇是否含文字类实体(bbox 相交即算,保守)。
|
||||
|
||||
|
||||
Reference in new issue
Block a user