Yolov8/Yolov11实例分割训练自有数据集
一、实例分割标注软件Labelme
下载地址： 绿色目标检测标注软件LabelImg和实例分割标注软件Labelme资源-CSDN下载
打开Labelme软件可对图像进行标注，选择“创建多边形”，对物体进行分割信息标注。
注完成后，点击“Save”，保存保存标注信息，生成和图片同名的json文件；
yolov8和yolov11的实例分割需将json转为yolo的txt格式的文件转换代码如下：label_format-seg.py
import json
import oslabel_to_class_id = {"fod": 0, # 从0开始# 其他类别...
}def convert_labelme_json_to_yolo(json_file, output_dir):try:with open(json_file, 'r') as f:labelme_data = json.load(f)img_width = labelme_data["imageWidth"]img_height = labelme_data["imageHeight"]file_name = os.path.splitext(os.path.basename(json_file))[0]txt_path = os.path.join(output_dir, f"{file_name}.txt")with open(txt_path, 'w') as txt_file:for shape in labelme_data['shapes']:label = shape['label']points = shape['points']if not points:continueclass_id = label_to_class_id.get(label)if class_id is None:print(f"Warning: 跳过未定义标签 '{label}'")continue# 检查多边形是否闭合if points[0] != points[-1]:points.append(points[0])normalized = [(x / img_width, y / img_height) for x, y in points]line = f"{class_id} " + " ".join(f"{x:.6f} {y:.6f}" for x, y in normalized)txt_file.write(line + "\n")except Exception as e:print(f"处理文件 {json_file} 时出错: {str(e)}")if __name__ == "__main__":json_dir = "data-seg/json" # labelme标注存放的目录output_dir = "data-seg/labels" # 输出目录if not os.path.exists(output_dir):os.makedirs(output_dir)for json_file in os.listdir(json_dir):if json_file.endswith(".json"):json_path = os.path.join(json_dir, json_file)convert_labelme_json_to_yolo(json_path, output_dir)具体应用时，该需注意修改的地方包括：
1）首先修改类别映射；
2）需要修改json_dir 的路径，它用来存放 LabelMe标注的JSON文件；
3）需要修改output_dir 的路径，输出的YOLO格式txt文件目录；
4）img_width和img_height，默认是640，分别指图片宽度和高度，根据实际图像尺寸修改即可。
运行代码，会生成用于YOLO11分割的txt标签文件。
二、实例分割模型训练
建立实例分割python文件train-seg.py，代码内容如下：
from ultralytics import YOLOif __name__ == '__main__':# 初始训练model = YOLO("./cfg/models/11/yolo11-seg.yaml").load("yolo11n-seg.pt") # 加载预训练模型，如果本地没有会自动下载# 进行训练results = model.train(data="./datasets/data-seg.yaml", epochs=100, imgsz=640, batch=4, workers=8)三、数据集yaml配置文件修改
在路径ultralytics/datasets/data-seg.yaml
yaml文件中的path，需要根据实际数据路径进行修改，指定数据集的路径。
四、YOLO11模型结构配置文件
路径ultralytics/cfg/models/11/yolo11-seg.yaml
注意需修改nc: 80 # number of classes
五、训练
激活虚拟环境：conda activate Y11
执行训练Yolov11的实例分割训练命令： python .\train-segv11.py
或执行训练Yolov8的实例分割训练命令： python .\train-segv8.py
六、推理
执行推理pyhton文件命令，predict-seg.py文件内容如下
from ultralytics import YOLO# 加载训练的模型
model = YOLO('runs/segment/train3/weights/best.pt')img_list = ['testfiles/3.jpg']for img in img_list:# 运行推理，并附加参数 save:是否保存文件 retina_masks：返回高分辨率分割掩码model.predict(img, save=True, conf=0.5, retina_masks=True)七、C++部署
1.首先转换为ONNX文件