Cовместное повышение разрешения и классификация фрагментов ткани для полнослайдовых гистологических изображений

Обложка

Цитировать

Полный текст

Открытый доступ Открытый доступ
Доступ закрыт Доступ предоставлен
Доступ закрыт Только для подписчиков

Аннотация

Сегментация полнослайдовых гистологических изображений через классификацию типов ткани небольших фрагментов – чрезвычайно актуальная задача в цифровой патологии, необходимая для разработки методов автоматического анализа полнослайдовых гистологических изображений. Крайне большой размер подобных изображений также делает актуальной задачу повышения разрешения изображений, что позволяет хранить изображения в пониженном разрешении и повышать его при необходимости. Разметка таких изображений специалистами-гистологами сложна и трудоемка, поэтому важно максимально эффективно использовать имеющиеся данные, как размеченные, так и неразмеченные. В данной работе предлагается новый нейросетевой метод одновременного решения задач повышения разрешения гистологических изображений с оптического увеличения ×20 до ×40 и классификации фрагментов изображений по типам ткани на ×20 увеличении. Использование единого кодировщшика, а также предложенной схемы обучения вспомогательной и основной нейросетевых моделей позволяет достичь лучших результатов на обоих задачах по сравнению с имеющимися подходами. Для обучения и тестирования метода использовался впервые представленный в данной статье набор данных PATH-DT-MSU WSS2v2. Ha тестовой выборке было достигнуто значение точности 0.971 и сбалансированной точности 0.916 в задаче классификации на 5 типов ткани, для задачи повышения разрешения были достигнуты значения PSNR = 32.26 и SSТМ = 0.89. Исходный код предложенного метода доступен по ссылке: https:/github.com/Kukty/WSI_SR_CL.

Полный текст

Доступ закрыт

Об авторах

Чж. Сун

Московский государственный университет имени М.В. Ломоносова

Автор, ответственный за переписку.
Email: sbitb0009@gse.cs.msu.ru
Россия, Москва

А. В. Хвостиков

Московский государственный университет имени М.В. Ломоносова

Email: khvostikov@cs.msu.ru
Россия, Москва

А. С. Крылов

Московский государственный университет имени М.В. Ломоносова

Email: kryl@cs.msu.ru
Россия, Москва

А. Сетхи

Индийский технологический институт Бомбея

Email: asethi@ee.iitb.ac.in
Индия, Мумбаи

И. А. Михайлов

Московский государственный университет имени М.В. Ломоносова

Email: imihailov@mc.msu.ru
Россия, Москва

П. Г. Мальков

Московский государственный университет имени М.В. Ломоносова

Email: pmalkov@mc.msu.ru
Россия, Москва

Список литературы

  1. Hu W. et al. A state-of-the-art survey of artificial neural networks for whole-slide image analysis: from popular convolutional neural networks to potential visual transformers // Computers in Biology and Medicine. 2023. V. 161. P. 107034.
  2. Rodriguez J.P.M. et al. Artificial intelligence as a tool for diagnosis in digital pathology whole slide images: A systematic review // Journal of Pathology Informatics. 2022. P. 100138.
  3. Wulczyn E. et al. Deep learning-based survival prediction for multiple cancer types using histopathology images // PloS one. 2020. V. 15. № 6. P. e0233678.
  4. Khvostikov A., Krylov A., Mikhailov I., Malkov P. Visualization and Analysis of Whole Slide Histological Images // Lecture Notes in Computer Science. 2023. V. 13644. P. 403–413.
  5. Juhong A. et al. Super-resolution and segmentation deep learning for breast cancer histopathology image analysis // Biomedical Optics Express. 2023. V. 14. № 1. P. 18–36.
  6. Afshari M., Yasir S., Keeney G.L., Jimenez R.E., Garcia J.J., Tizhoosh H.R. Single patch super-resolution of histopathology whole slide images: a comparative study // Journal of Medical Imaging. 2023. V. 10. № 1. P. 017501–017501.
  7. Chen Z., Wang J., Jia C., Ye X. Pathological image super-resolution using mix-attention generative adversarial network // International Journal of Machine Learning and Cybernetics. 2023. P. 1–11.
  8. Xie L., Li C., Wang Z., Zhang X., Chen B., Shen Q., Wu Z. SHISRCNet: Super-resolution And Classification Network For Low-resolution Breast Cancer Histopathology Image // Medical Image Computing and Computer Assisted Intervention – MICCAI 2023. 2023. P. 23–32.
  9. Salgueiro L., Marcello J., Vilaplana V. SEG-ESRGAN: A Multi-Task Network for Super-Resolution and Semantic Segmentation of Remote Sensing Images // Remote Sensing. 2022. V. 14. № 22. P. 5862.
  10. Wang L., Li D., Zhu Y., Tian L., Shan Y. Dual super-resolution learning for semantic segmentation // Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2020. P. 3774–3783.
  11. Khvostikov A., Krylov A., Mikhailov I., Malkov P., Danilova N. Tissue type recognition in whole slide histological images // CEUR Workshop Proceedings. 2021. V. 3027. P. 50.
  12. Larkin K.G. Reflections on shannon information: In search of a natural information-entropy for images //arXiv preprint arXiv:1609.01117, 2016.
  13. Ledig C. et al. Photo-realistic single image super-resolution using a generative adversarial network // Proceedings of the IEEE conference on computer vision and pattern recognition. 2017. P. 4681–4690.
  14. Schonfeld E., Schiele B., Khoreva A. A U-Net based discriminator for generative adversarial networks // Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2020. P. 8207–8216.
  15. Wang X., Xie L., Dong C., Shan Y. Real-ESRGAN: Training real-world blind super-resolution with pure synthetic data // Proceedings of the IEEE/CVF international conference on computer vision. 2021. P. 1905–1914.
  16. Zhang Y., Tian Y., Kong Y., Zhong B., Fu Y. Residual dense network for image super-resolution // Proceedings of the IEEE conference on computer vision and pattern recognition. 2018. P. 2472–2481.
  17. Shi W. et al. Real-time single image and video super-resolution using an efficient sub-pixel convolutional neural network // Proceedings of the IEEE conference on computer vision and pattern recognition. 2016. P. 1874–1883.
  18. He K., Zhang X., Ren S., Sun J. Deep residual learning for image recognition // Proceedings of the IEEE conference on computer vision and pattern recognition. 2016. P. 770–778.
  19. Schreiber S., Geldenhuys J., De Villiers H. Texture synthesis using convolutional neural networks with long-range consistency and spectral constraints // 2016 Pattern Recognition Association of South Africa and Robotics and Mechatronics International Conference (PRASA-RobMech). IEEE. 2016. P. 1–6.
  20. Krichen M. Generative adversarial networks // 14th International Conference on Computing Communication and Networking Technologies (ICCCNT). IEEE. 2023. P. 1–7.
  21. Müller R., Kornblith S., Hinton G.E. When does label smoothing help? // Advances in neural information processing systems. 2019. P. 4696–4705.
  22. Yoo J., Ahn N., Sohn K.A. Rethinking data augmentation for image super-resolution: A comprehensive analysis and a new strategy // Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2020. P. 8375–8384.
  23. Huang G. et al. Densely connected convolutional networks // Proceedings of the IEEE conference on computer vision and pattern recognition. 2017. P. 4700–4708.
  24. Tan M., Le Q. Efficientnetv2: Smaller models and faster training // International conference on machine learning. PMLR. 2021. P. 10096–10106.
  25. Howard A.G. et al. Mobilenets: Efficient convolutional neural networks for mobile vision applications // arXiv preprint arXiv:1704.04861, 2017.
  26. Chen Z., Guo X., Woo P.Y., Yuan Y. Super-resolution enhanced medical image diagnosis with sample affinity interaction // IEEE Transactions on Medical Imaging. 2021. V. 40. № 5. P. 1377–1389.
  27. Wang X. et al. ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks // Computer Vision–ECCV 2018 Workshops: Munich, Germany, September 8–14, 2018. Proceedings. Part V 15. Springer International Publishing. 2019. P. 63–79.

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
2. Рис. 1. Пример полнослайдового гистологического изображения из набора PATH-DT-MSU WSS2v2 с выполненной полигональной разметкой на 5 классов ткани, включая фон

Скачать (916KB)
3. Рис. 2. Архитектура вспомогательной нейронной сети для повышения разрешения

Скачать (337KB)
4. Рис. 3. Архитектура основной нейронной сети для повышения разрешения и классификации

Скачать (239KB)

© Российская академия наук, 2024