AiGlobalAgentQuestionSqlEmitterServiceImpl.java
29.3 KB
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
package com.xly.milvus.service.impl;
import cn.hutool.core.collection.ConcurrentHashSet;
import cn.hutool.core.util.ObjectUtil;
import cn.hutool.core.util.StrUtil;
import com.google.gson.JsonArray;
import com.google.gson.JsonObject;
import com.xly.milvus.service.AiGlobalAgentQuestionSqlEmitterService;
import com.xly.milvus.service.VectorizationService;
import com.xly.milvus.util.MapToJsonConverter;
import com.xly.service.DynamicExeDbService;
import io.milvus.v2.client.MilvusClientV2;
import io.milvus.v2.common.ConsistencyLevel;
import io.milvus.v2.common.DataType;
import io.milvus.v2.common.IndexBuildState;
import io.milvus.v2.common.IndexParam;
import io.milvus.v2.service.collection.request.*;
import io.milvus.v2.service.index.request.CreateIndexReq;
import io.milvus.v2.service.index.request.DescribeIndexReq;
import io.milvus.v2.service.index.request.DropIndexReq;
import io.milvus.v2.service.index.response.DescribeIndexResp;
import io.milvus.v2.service.vector.request.InsertReq;
import io.milvus.v2.service.vector.request.SearchReq;
import io.milvus.v2.service.vector.request.data.FloatVec;
import io.milvus.v2.service.vector.response.InsertResp;
import io.milvus.v2.service.vector.response.SearchResp;
import lombok.RequiredArgsConstructor;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.stereotype.Service;
import java.util.*;
@Slf4j
@Service("aiGlobalAgentQuestionSqlEmitterService")
@RequiredArgsConstructor
public class AiGlobalAgentQuestionSqlEmitterServiceImpl implements AiGlobalAgentQuestionSqlEmitterService {
private final MilvusClientV2 milvusClient;
private final VectorizationService vectorizationService;
private final DynamicExeDbService dynamicExeDbService;
private final String sProName ="Sp_Ai_AiGlobalAgentQuestionThread";
// 或者从配置文件读取
@Value("${milvus.vector.dimension:384}")
private int VECTOR_DIM;
// 缓存已加载的集合
private final Set<String> loadedCollections = new ConcurrentHashSet<>();
/***
* @Author 钱豹
* @Date 13:06 2026/3/19
* @Param []
* @return void
* @Description 插入数据
**/
@Override
public void addAiGlobalAgentQuestionSqlEmitter(String sKey,Map<String,Object> data,String sQuestion,String sSqlContent,String cachType,String collectionName,Boolean isInit) {
// 向量化
List<Float> vector = vectorizationService.textToVector(sKey);
if (vector == null || vector.isEmpty()) {
throw new RuntimeException("向量化失败");
}
if(ObjectUtil.isEmpty(sSqlContent)){
sSqlContent = StrUtil.EMPTY;
}
//调用数据库插入数据库]
if(ObjectUtil.isEmpty(data.get("userInput"))){
Object userInput = ObjectUtil.isNotEmpty(data.get("sUserInput"))?data.get("sUserInput").toString():data.get("userInput");
data.put("userInput",userInput);
}
// 2. 转换为Milvus格式
JsonObject row = convertToMilvusRow(data, vector,sQuestion,sSqlContent,cachType,sKey);
//创建集合
// createCollection(collectionName);
createCollectionIfNotExists(collectionName);
// 3. 插入到Milvus
InsertReq insertReq = InsertReq.builder()
.collectionName(collectionName)
.data(List.of(row))
.build();
InsertResp insertResp = milvusClient.insert(insertReq);
//是否初始化。初始化不需要插入到数据库
if(!isInit){
Map<String, Object> searMap = dynamicExeDbService.getDoProMap(sProName, data);
dynamicExeDbService.getCallPro(searMap, sProName);
}
System.out.println("成功插入 " + insertResp.getInsertCnt() + " 条数据");
System.out.println(" - 数据预览:");
}
@Override
public Map<String, Object> queryAiGlobalAgentQuestionSqlEmitter(String searchText, String collectionName) {
Map<String, Object> result = new HashMap<>();
log.info("开始相似度查询: collection={}, searchText={}", collectionName, searchText);
// 2. 设置范围搜索参数
Map<String, Object> searchParams = new HashMap<>();
searchParams.put("nprobe", 10);
searchParams.put("radius", 0.94f); // 只返回相似度 >= 0.94 的结果
// 对于 IP 度量,相似度范围在 [minScore, maxScore]
// searchParams.put("radius", -1); // 最小相似度
// searchParams.put("range_filter", 1); // 最大相似度
// 1. 确保集合已加载
ensureCollectionLoaded(collectionName);
// 1. 向量化搜索文本
List<Float> vectorList = vectorizationService.textToVector(searchText);
if (vectorList == null || vectorList.isEmpty()) {
throw new RuntimeException("向量化失败");
}
// 2. 转换为 float[]
float[] floatArray = new float[vectorList.size()];
for (int i = 0; i < vectorList.size(); i++) {
floatArray[i] = vectorList.get(i);
}
// 查询最近插入的数据(按时间倒序)
// QueryReq queryReq = QueryReq.builder()
// .collectionName(collectionName)
// .outputFields(Arrays.asList("sQuestion", "sSqlContent", "data_id", "create_time","metadata"))
// .limit(100)
// .build();
// QueryResp queryResp = milvusClient.query(queryReq);
// 3. 创建 Milvus FloatVec 对象
FloatVec floatVec = new FloatVec(floatArray);
// 4. 构建搜索请求
SearchReq searchReq = SearchReq.builder()
.collectionName(collectionName)
.data(Collections.singletonList(floatVec))
.annsField("vector") // 向量字段名
.topK(10) // 返回最相似的10条
.metricType(IndexParam.MetricType.IP) // 内积相似度
.outputFields(Arrays.asList("sQuestion", "sSqlContent","sUserInput", "data_id","cachType", "create_time","metadata"))
.searchParams(searchParams)
.build();
// 5. 执行搜索
SearchResp searchResp = milvusClient.search(searchReq);
// 6. 处理结果
List<List<SearchResp.SearchResult>> searchResults = searchResp.getSearchResults();
if(ObjectUtil.isEmpty(searchResults)){
return result;
}
//默认相似度最高的在第一条
List<SearchResp.SearchResult> firstResultList = searchResults.get(0);
if(ObjectUtil.isEmpty(firstResultList)){
return result;
}
firstResultList.sort((a, b) -> Float.compare(b.getScore(), a.getScore()));
SearchResp.SearchResult item = firstResultList.get(0);
Map<String, Object> itemMap = new HashMap<>();
itemMap.put("score", item.getScore());
itemMap.put("id", item.getId());
itemMap.putAll(item.getEntity());
return itemMap;
}
/**
* 确保集合已加载
*/
private void ensureCollectionLoaded(String collectionName) {
try {
// 如果已经加载过,直接返回
if (loadedCollections.contains(collectionName)) {
return;
}
log.info("检查集合加载状态: {}", collectionName);
// 检查集合是否存在
HasCollectionReq hasCollectionReq = HasCollectionReq.builder()
.collectionName(collectionName)
.build();
boolean exists = milvusClient.hasCollection(hasCollectionReq);
if (!exists) {
log.error("集合不存在: {}", collectionName);
throw new RuntimeException("集合不存在: " + collectionName);
}
// 获取加载状态
GetLoadStateReq getLoadStateReq = GetLoadStateReq.builder()
.collectionName(collectionName)
.build();
boolean isLoaded = milvusClient.getLoadState(getLoadStateReq);
if (!isLoaded) {
log.info("加载集合到内存: {}", collectionName);
// 加载集合
LoadCollectionReq loadCollectionReq = LoadCollectionReq.builder()
.collectionName(collectionName)
.build();
milvusClient.loadCollection(loadCollectionReq);
// 等待加载完成
waitForCollectionLoaded(collectionName);
loadedCollections.add(collectionName);
log.info("集合加载完成: {}", collectionName);
} else {
loadedCollections.add(collectionName);
log.info("集合已加载: {}", collectionName);
}
} catch (Exception e) {
log.error("确保集合加载失败", e);
throw new RuntimeException("集合加载失败: " + collectionName, e);
}
}
/**
* 等待集合加载完成
*/
private void waitForCollectionLoaded(String collectionName) {
int maxRetries = 30;
int retryInterval = 1000; // 1秒
for (int i = 0; i < maxRetries; i++) {
try {
GetLoadStateReq getLoadStateReq = GetLoadStateReq.builder()
.collectionName(collectionName)
.build();
boolean isLoaded = milvusClient.getLoadState(getLoadStateReq);
if (isLoaded) {
log.info("集合加载状态确认: {}", collectionName);
return;
}
Thread.sleep(retryInterval);
} catch (Exception e) {
log.warn("检查加载状态失败,重试 {}/{}", i + 1, maxRetries);
}
}
throw new RuntimeException("集合加载超时: " + collectionName);
}
/**
* 从实体对象构建Milvus插入数据
*/
public JsonObject convertToMilvusRow(Map<String,Object> data, List<Float> vector,String sQuestion,String sSqlContent,String cachType,String sKey) {
JsonObject row = new JsonObject();
// 添加向量
JsonArray vectorArray = new JsonArray();
vector.forEach(vectorArray::add);
row.add("vector", vectorArray);
// 添加文本字段
row.addProperty("sKey", sKey);
row.addProperty("data_id", data.get("sId").toString());
row.addProperty("sQuestion", sQuestion);
row.addProperty("sUserInput", data.get("userInput").toString());
row.addProperty("sSqlContent", sSqlContent);
row.addProperty("cachType", cachType);
// 创建时间字段 - 必须提供!
row.addProperty("create_time", System.currentTimeMillis());
// 创建时间字段 - 必须提供!
// row.add("create_time", JsonValue.from(System.currentTimeMillis()));
// 添加业务字段到metadata
JsonObject metadata = MapToJsonConverter.convert(data);
row.add("metadata", metadata);
return row;
}
/**
* 创建集合(如果不存在)
*/
public void createCollectionIfNotExists(String collectionName) {
try {
// 检查集合是否存在
HasCollectionReq hasCollectionReq = HasCollectionReq.builder()
.collectionName(collectionName)
.build();
boolean exists = milvusClient.hasCollection(hasCollectionReq);
if (!exists) {
createCollection(collectionName);
log.info("集合 {} 创建成功", collectionName);
}
} catch (Exception e) {
log.error("检查/创建集合失败: {}", collectionName, e);
throw new RuntimeException("初始化Milvus集合失败", e);
}
}
/**
* 创建集合(定义字段结构)
*/
private void createCollection(String collectionName) {
// 定义字段列表
List<CreateCollectionReq.FieldSchema> fieldSchemas = Arrays.asList(
// 1. 主键字段
CreateCollectionReq.FieldSchema.builder()
.name("id")
.dataType(DataType.Int64)
.isPrimaryKey(true)
.autoID(true) // 使用自动ID
.description("主键ID")
.build(),
// 2. 向量字段
CreateCollectionReq.FieldSchema.builder()
.name("vector")
.dataType(DataType.FloatVector)
.dimension(VECTOR_DIM)
.description("向量字段,用于相似性搜索")
.build(),
// 3. 问题字段
CreateCollectionReq.FieldSchema.builder()
.name("sQuestion")
.dataType(DataType.VarChar)
.maxLength(5000)
.description("用户问题(上下文)")
.build(),
CreateCollectionReq.FieldSchema.builder()
.name("sUserInput")
.dataType(DataType.VarChar)
.maxLength(5000)
.description("用户问题")
.build(),
// 4. SQL内容字段 - 设置为可空
CreateCollectionReq.FieldSchema.builder()
.name("sSqlContent")
.dataType(DataType.VarChar)
.maxLength(50000) // SQL可能较长
.isPrimaryKey(false)
.isNullable(true) // 设置为 true,允许为空
.description("SQL语句")
.build(),
// 4. 缓存类型
CreateCollectionReq.FieldSchema.builder()
.name("cachType")
.dataType(DataType.VarChar)
.maxLength(100) // 缓存类型
.description("缓存类型")
.build(),
// 5. 数据ID字段
CreateCollectionReq.FieldSchema.builder()
.name("data_id")
.dataType(DataType.VarChar)
.maxLength(500) // 增加最大长度
.description("原始数据ID")
.build(),
// 6. 创建时间字段
CreateCollectionReq.FieldSchema.builder()
.name("create_time")
.dataType(DataType.Int64)
.description("创建时间戳")
.build(),
// 7. 元数据字段(使用JSON类型存储额外数据)
CreateCollectionReq.FieldSchema.builder()
.name("metadata")
.dataType(DataType.JSON)
.description("额外元数据")
.build(),
CreateCollectionReq.FieldSchema.builder()
.name("sKey")
.dataType(DataType.VarChar)
.maxLength(1000) // 增加最大长度
.description("存入的vector转换前数据")
.build()
);
// 创建集合schema
CreateCollectionReq.CollectionSchema schema =
CreateCollectionReq.CollectionSchema.builder()
.fieldSchemaList(fieldSchemas)
.enableDynamicField(true)
.build();
// 创建集合请求
CreateCollectionReq createCollectionReq = CreateCollectionReq.builder()
.collectionName(collectionName)
.collectionSchema(schema)
.consistencyLevel(ConsistencyLevel.BOUNDED)
.build();
// 执行创建集合
milvusClient.createCollection(createCollectionReq);
//创建索引
createIndexesStepByStep(collectionName);
}
/**
* 创建集合(定义字段结构)
*/
public void removeAndCreateCollection(String collectionName) {
//删除现有集合
DropCollectionReq dropCollectionReq = DropCollectionReq.builder()
.collectionName(collectionName)
.build();
milvusClient.dropCollection(dropCollectionReq);
createCollection(collectionName);
}
/*
* 分步创建索引,便于监控每个索引的状态
*/
private void createIndexesStepByStep(String collectionName) {
log.info("开始为集合创建索引: {}", collectionName);
createAllIndexes(collectionName);
// // 1. 创建向量索引
// createVectorIndex(collectionName);
//
// // 2. 创建标量索引
// createScalarIndexes(collectionName);
}
/**
* 创建向量索引
* IVF_FLAT 向量相似度搜索 常用的向量索引,平衡性能和召回率
* STL_SORT 标量字段排序 适用于数字、时间等需要排序的字段
* INVERTED 文本字段过滤 倒排索引,适用于文本字段的精确匹配
* TRIE 字符串前缀匹配 适用于前缀查询
* BITMAP 枚举值过滤 适用于低基数字段
*/
private void createVectorIndex(String collectionName) {
log.info("创建向量索引: {}", collectionName);
Map<String, Object> extraParams = new HashMap<>();
extraParams.put("nlist", 128);
IndexParam vectorIndex = IndexParam.builder()
.fieldName("vector")
.indexName("idx_vector")
.indexType(IndexParam.IndexType.IVF_FLAT)
.metricType(IndexParam.MetricType.IP)
.extraParams(extraParams)
.build();
CreateIndexReq createIndexReq = CreateIndexReq.builder()
.collectionName(collectionName)
.indexParams(Collections.singletonList(vectorIndex))
.sync(true)
.timeout(60000L)
.build();
milvusClient.createIndex(createIndexReq);
log.info("向量索引创建完成");
}
/**
* 创建标量索引
*/
private void createScalarIndexes(String collectionName) {
log.info("创建标量索引: {}", collectionName);
// 为 create_time 字段创建索引
IndexParam timeIndex = IndexParam.builder()
.fieldName("create_time")
.indexName("idx_create_time")
.indexType(IndexParam.IndexType.STL_SORT) // 排序索引
.build();
CreateIndexReq timeIndexReq = CreateIndexReq.builder()
.collectionName(collectionName)
.indexParams(Collections.singletonList(timeIndex))
.sync(true)
.timeout(30000L)
.build();
milvusClient.createIndex(timeIndexReq);
log.info("create_time 索引创建完成");
// 为 question 字段创建倒排索引(支持文本过滤)
IndexParam questionIndex = IndexParam.builder()
.fieldName("sQuestion")
.indexName("idx_question")
.indexType(IndexParam.IndexType.TRIE) // 倒排索引
.build();
CreateIndexReq questionIndexReq = CreateIndexReq.builder()
.collectionName(collectionName)
.indexParams(Collections.singletonList(questionIndex))
.sync(true)
.timeout(30000L)
.build();
milvusClient.createIndex(questionIndexReq);
log.info("question 索引创建完成");
// 为 data_id 字段创建索引
IndexParam idIndex = IndexParam.builder()
.fieldName("data_id")
.indexName("idx_data_id")
.indexType(IndexParam.IndexType.TRIE)
.build();
CreateIndexReq idIndexReq = CreateIndexReq.builder()
.collectionName(collectionName)
.indexParams(Collections.singletonList(idIndex))
.sync(true)
.timeout(30000L)
.build();
milvusClient.createIndex(idIndexReq);
log.info("data_id 索引创建完成");
}
/**
* 重建索引(解决索引未就绪问题)
*/
public boolean rebuildIndex(String collectionName) {
log.info("========== 开始重建索引 ==========");
log.info("集合名称: {}", collectionName);
try {
// 1. 先检查集合是否存在
HasCollectionReq hasReq = HasCollectionReq.builder()
.collectionName(collectionName)
.build();
if (!milvusClient.hasCollection(hasReq)) {
log.error("集合不存在: {}", collectionName);
return false;
}
// 2. 先释放集合(如果已加载)
try {
ReleaseCollectionReq releaseReq = ReleaseCollectionReq.builder()
.collectionName(collectionName)
.build();
milvusClient.releaseCollection(releaseReq);
log.info("集合已释放: {}", collectionName);
Thread.sleep(2000); // 等待释放完成
} catch (Exception e) {
log.warn("释放集合失败(可能未加载): {}", e.getMessage());
}
// 3. 删除原有索引
try {
DropIndexReq dropIndexReq = DropIndexReq.builder()
.collectionName(collectionName)
.fieldName("vector") // 指定向量字段
.build();
milvusClient.dropIndex(dropIndexReq);
log.info("原有索引已删除");
Thread.sleep(2000); // 等待删除完成
} catch (Exception e) {
log.warn("删除索引失败(可能不存在): {}", e.getMessage());
}
// 4. 创建新索引
createVectorIndex(collectionName);
// 5. 等待索引就绪
boolean indexReady = waitForIndexReady(collectionName, "vector", 60);
if (!indexReady) {
log.error("索引未就绪");
return false;
}
// 6. 重新加载集合
LoadCollectionReq loadReq = LoadCollectionReq.builder()
.collectionName(collectionName)
.build();
milvusClient.loadCollection(loadReq);
log.info("集合重新加载成功");
// 7. 验证加载状态
boolean loaded = waitForLoad(collectionName, 30);
if (!loaded) {
log.error("集合加载失败");
return false;
}
log.info("✅ 索引重建完成,集合已就绪: {}", collectionName);
return true;
} catch (Exception e) {
log.error("重建索引失败", e);
return false;
}
}
/**
* 等待索引就绪
*/
private boolean waitForIndexReady(String collectionName, String fieldName, int timeoutSeconds) {
log.info("等待索引就绪: {}.{},超时: {}秒", collectionName, fieldName, timeoutSeconds);
for (int i = 0; i < timeoutSeconds; i++) {
try {
DescribeIndexReq describeIndexReq = DescribeIndexReq.builder()
.collectionName(collectionName)
.build();
DescribeIndexResp describeIndexResp = milvusClient.describeIndex(describeIndexReq);
List<DescribeIndexResp.IndexDesc> indexDescs = describeIndexResp.getIndexDescriptions();
for (DescribeIndexResp.IndexDesc desc : indexDescs) {
if (fieldName.equals(desc.getFieldName())) {
IndexBuildState state = desc.getIndexState();
log.info("索引状态: {}, 进度: {}/{}",
state, desc.getIndexedRows(), desc.getTotalRows());
if (state == IndexBuildState.Finished) {
log.info("✅ 索引就绪");
return true;
} else if (state == IndexBuildState.Failed) {
log.error("❌ 索引构建失败: {}", desc.getIndexFailedReason());
return false;
}
break;
}
}
Thread.sleep(1000);
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
log.warn("等待被中断");
return false;
} catch (Exception e) {
log.warn("检查索引状态失败: {}/{}", i + 1, timeoutSeconds);
}
}
log.error("等待索引就绪超时");
return false;
}
/**
* 等待集合加载完成
*/
private boolean waitForLoad(String collectionName, int timeoutSeconds) {
log.info("等待集合加载: {},超时: {}秒", collectionName, timeoutSeconds);
for (int i = 0; i < timeoutSeconds; i++) {
try {
GetLoadStateReq loadStateReq = GetLoadStateReq.builder()
.collectionName(collectionName)
.build();
boolean isLoaded = milvusClient.getLoadState(loadStateReq);
if (isLoaded) {
log.info("✅ 集合加载完成");
return true;
}
Thread.sleep(1000);
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
return false;
} catch (Exception e) {
log.warn("检查加载状态失败: {}/{}", i + 1, timeoutSeconds);
}
}
log.error("集合加载超时");
return false;
}
/**
* 批量创建所有索引(向量索引 + 多个标量索引)
*/
private void createAllIndexes(String collectionName) {
log.info("开始为集合批量创建索引: {}", collectionName);
// 1. 准备所有索引参数
List<IndexParam> allIndexParams = new ArrayList<>();
// 1.1 向量索引
Map<String, Object> vectorExtraParams = new HashMap<>();
vectorExtraParams.put("nlist", 256); // 聚类中心数:sqrt(384) * 13 ≈ 256
vectorExtraParams.put("nprobe", 32); // 搜索时检查的聚类数
IndexParam vectorIndex = IndexParam.builder()
.fieldName("vector")
.indexName("idx_vector_rebuild")
.indexType(IndexParam.IndexType.IVF_FLAT)
.metricType(IndexParam.MetricType.IP)
.extraParams(vectorExtraParams)
.build();
allIndexParams.add(vectorIndex);
// 1.2 create_time 字段索引(用于时间范围查询)
IndexParam timeIndex = IndexParam.builder()
.fieldName("create_time")
.indexName("idx_create_time")
.indexType(IndexParam.IndexType.STL_SORT) // 排序索引
.build();
allIndexParams.add(timeIndex);
// 1.3 question 字段倒排索引(用于文本过滤)
IndexParam questionIndex = IndexParam.builder()
.fieldName("sQuestion")
.indexName("idx_question")
.indexType(IndexParam.IndexType.TRIE) // 倒排索引
.build();
allIndexParams.add(questionIndex);
// 1.4 data_id 字段索引(用于精确匹配)
IndexParam idIndex = IndexParam.builder()
.fieldName("data_id")
.indexName("idx_data_id")
.indexType(IndexParam.IndexType.TRIE)
.build();
allIndexParams.add(idIndex);
IndexParam idx_cach_type = IndexParam.builder()
.fieldName("cachType")
.indexName("idx_cach_type")
.indexType(IndexParam.IndexType.TRIE)
.build();
allIndexParams.add(idx_cach_type);
IndexParam sKey = IndexParam.builder()
.fieldName("sKey")
.indexName("s_key")
.indexType(IndexParam.IndexType.TRIE)
.build();
allIndexParams.add(sKey);
// 1.5 sql_content 字段索引(如果需要)
// IndexParam sqlIndex = IndexParam.builder()
// .fieldName("sql_content")
// .indexName("idx_sql_content")
// .indexType(IndexParam.IndexType.INVERTED)
// .build();
// allIndexParams.add(sqlIndex);
// 2. 批量创建索引
try {
CreateIndexReq createIndexReq = CreateIndexReq.builder()
.collectionName(collectionName)
.indexParams(allIndexParams) // 一次性传入所有索引
.sync(true) // 同步等待
.timeout(120000L) // 总超时时间120秒
.build();
milvusClient.createIndex(createIndexReq);
log.info("所有索引批量创建成功: {}", collectionName);
} catch (Exception e) {
log.error("批量创建索引失败: {}", e.getMessage());
createScalarIndexes(collectionName);
}
}
}