Home/Publications/Food Ingredient
Paper Note

Food and Ingredient Joint Learning:用成分理解细粒度食物

食物识别的难点在于类间差异小、类内变化大。Ingredient semantics 提供了比类别名更细、更可解释的监督。

Fine-Grained Recognition Food Recognition Ingredient Learning TCSVT
TL;DR

这篇论文把 food category recognition 和 ingredient prediction 联合起来做。 直觉很直接:很多菜品外观相似,仅靠整体图像很难分;但 ingredient 是更细粒度的语义线索,可以帮助模型理解“为什么这是这道菜”。 联合学习让类别监督和成分监督互相补充:类别提供全局目标,ingredient 提供局部/语义解释,从而提升 fine-grained recognition 的鲁棒性。

1. 问题:食物类别名太粗

食物图像常有遮挡、摆盘变化、光照变化,而且同一类别内部差异很大。 只用菜名做监督,模型容易抓住背景、容器或拍摄风格等 shortcut。 Ingredient labels 能提供更贴近食物本身的中间语义。

2. 核心思路:类别与成分联合优化

联合学习把两个任务放在一起:预测 food category,同时预测 ingredients。 这样模型不仅学习“这是什么菜”,也学习“它由哪些可见或隐含成分构成”。 成分任务相当于给细粒度识别增加了一层语义 regularization。

3. Key Insights:可解释中间语义能提升泛化

Fine-grained recognition 不是只堆更深 backbone。 当类别之间差异很细时,引入更接近人类判断过程的中间语义,往往能减少 shortcut 并提升可解释性。 Ingredient supervision 正是这种中间语义的自然来源。

English Summary

This work improves fine-grained food recognition by jointly learning food categories and ingredient semantics.

Problem

Food categories are visually diverse within each class and often similar across classes. Category labels alone can encourage shortcuts based on background, plating, or imaging style.

Core Idea

Use ingredient prediction as a complementary task. Food labels provide the global classification objective, while ingredient labels provide interpretable semantic cues that support finer discrimination.

Practical Takeaways

Fine-grained recognition can benefit from intermediate semantic supervision. The model becomes less dependent on superficial visual cues and more aligned with human reasoning about food.

Links