test_rerank.py 4.3 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145
  1. import requests
  2. import json
  3. system_prompt = """ 依据Query对Tag进行关联性排序,每个Tag包含id、tag_nm(标签名称)、remark(标签描述)三个字段,输出排序后的Tag列表,关联性越高,排序越靠前,输出tag信息中只包含id即可 """
  4. query = """职业:电动机加工制造,投向:电动机加工制造,用途:电动机加工制造"""
  5. # 20260507002 中药饮片加工
  6. # 20260200007 海洋鱼糜制品及水产品干腌制加工
  7. # 20260507025 工业控制计算机及系统制造
  8. # 20260200079 海洋化工产品制造
  9. # 20260507013 电子工业专用设备制造
  10. # 20260200078 海洋水产品深加工
  11. # 20260200063 海洋渔业和水产品加工设备制造
  12. # 20260507014 光纤、光缆及锂离子电池制造
  13. # 20260507022 计算机整机制造
  14. # 20260507106 电子专用设备制造
  15. # 20260507117 电气设备制造
  16. # 20260507022 计算机整机制造
  17. # 20260507114 专用设备制造
  18. # 20260507113 通用设备制造
  19. # 20260507116 汽车与轨道设备制造
  20. # 20260507013 电子工业专用设备制造
  21. # 20260507106 电子专用设备制造
  22. # 20260507119 其他装备制造
  23. # 20260507016 广播电视设备制造
  24. # 20260507102 计算机制造
  25. tag_infos = [
  26. {
  27. "id": "20260507002",
  28. "tag_nm":"中药饮片加工",
  29. "remark":"中药饮片加工"
  30. },
  31. {
  32. "id": "20260200007",
  33. "tag_nm":"海洋鱼浆制品及水产品干腌制加工",
  34. "remark":"海洋鱼浆制品及水产品干腌制加工"
  35. },
  36. {
  37. "id": "20260507025",
  38. "tag_nm":"工业控制计算机及系统制造",
  39. "remark":"工业控制计算机及系统制造"
  40. },
  41. {
  42. "id": "20260200079",
  43. "tag_nm":"海洋化工产品制造",
  44. "remark":"海洋化工产品制造"
  45. },
  46. {
  47. "id": "20260507013",
  48. "tag_nm":"电子工业专用设备制造",
  49. "remark":"电子工业专用设备制造"
  50. },
  51. {
  52. "id": "20260200078",
  53. "tag_nm":"海洋水产品加工",
  54. "remark":"海洋水产品加工"
  55. },
  56. {
  57. "id": "20260200063",
  58. "tag_nm":"海洋渔业和水产品加工设备制造",
  59. "remark":"海洋渔业和水产品加工设备制造"
  60. },
  61. {
  62. "id": "20260507014",
  63. "tag_nm":"光纤、光缆及锂离子电池制造",
  64. "remark":"光纤、光缆及锂离子电池制造"
  65. },
  66. {
  67. "id": "20260507022",
  68. "tag_nm":"计算机整机制造",
  69. "remark":"计算机整机制造"
  70. },
  71. {
  72. "id": "20260507106",
  73. "tag_nm":"电子专用设备制造",
  74. "remark":"电子专用设备制造"
  75. },
  76. {
  77. "id": "20260507117",
  78. "tag_nm":"电气设备制造",
  79. "remark":"电子专用设备制造"
  80. },
  81. {
  82. "id": "20260507022",
  83. "tag_nm":"计算机整机制造",
  84. "remark":"计算机整机制造"
  85. },
  86. {
  87. "id": "20260507114",
  88. "tag_nm":"专用设备制造",
  89. "remark":"专用设备制造"
  90. },
  91. {
  92. "id": "20260507113",
  93. "tag_nm":"通用设备制造",
  94. "remark":"通用设备制造"
  95. },
  96. {
  97. "id": "20260507116",
  98. "tag_nm":"汽车与轨道设备制造",
  99. "remark":"汽车与轨道设备制造"
  100. },
  101. {
  102. "id": "20260507013",
  103. "tag_nm":"电子工业专用设备制造",
  104. "remark":"电子工业专用设备制造"
  105. },
  106. {
  107. "id": "20260507106",
  108. "tag_nm":"电子专用设备制造",
  109. "remark":"电子专用设备制造"
  110. },
  111. {
  112. "id": "20260507119",
  113. "tag_nm":"其他装备制造",
  114. "remark":"其他装备制造"
  115. },
  116. {
  117. "id": "20260507016",
  118. "tag_nm":"广播电视设备制造",
  119. "remark":"广播电视设备制造"
  120. },
  121. {
  122. "id": "20260507102",
  123. "tag_nm":"计算机制造",
  124. "remark":"计算机制造"
  125. }
  126. ]
  127. tags = [f"<Tag>:{json.dumps(tag,ensure_ascii=False)}>" for tag in tag_infos]
  128. response = requests.post(
  129. "http://10.192.72.12:18088/rerank",
  130. json={
  131. "model": "qwen3-reranker-4b-awq-int4",
  132. "query": """
  133. <|im_start|>system
  134. {system_prompt}
  135. <|im_end|>
  136. <|im_start|>user
  137. <Query>: {query}
  138. <|im_end|>
  139. """,
  140. "documents": tags,
  141. "top_n": 5
  142. }
  143. )
  144. print(response.json()["results"])