Cовместное повышение разрешения и классификация фрагментов ткани для полнослайдовых гистологических изображений
- Авторы: Сун Ч.1, Хвостиков А.В.1, Крылов А.С.1, Сетхи А.2, Михайлов И.А.1, Мальков П.Г.1
-
Учреждения:
- Московский государственный университет имени М.В. Ломоносова
- Индийский технологический институт Бомбея
- Выпуск: № 3 (2024)
- Страницы: 75-82
- Раздел: АНАЛИЗ ДАННЫХ
- URL: https://permmedjournal.ru/0132-3474/article/view/675697
- DOI: https://doi.org/10.31857/S0132347424030086
- EDN: https://elibrary.ru/QAEJQD
- ID: 675697
Цитировать
Аннотация
Сегментация полнослайдовых гистологических изображений через классификацию типов ткани небольших фрагментов – чрезвычайно актуальная задача в цифровой патологии, необходимая для разработки методов автоматического анализа полнослайдовых гистологических изображений. Крайне большой размер подобных изображений также делает актуальной задачу повышения разрешения изображений, что позволяет хранить изображения в пониженном разрешении и повышать его при необходимости. Разметка таких изображений специалистами-гистологами сложна и трудоемка, поэтому важно максимально эффективно использовать имеющиеся данные, как размеченные, так и неразмеченные. В данной работе предлагается новый нейросетевой метод одновременного решения задач повышения разрешения гистологических изображений с оптического увеличения ×20 до ×40 и классификации фрагментов изображений по типам ткани на ×20 увеличении. Использование единого кодировщшика, а также предложенной схемы обучения вспомогательной и основной нейросетевых моделей позволяет достичь лучших результатов на обоих задачах по сравнению с имеющимися подходами. Для обучения и тестирования метода использовался впервые представленный в данной статье набор данных PATH-DT-MSU WSS2v2. Ha тестовой выборке было достигнуто значение точности 0.971 и сбалансированной точности 0.916 в задаче классификации на 5 типов ткани, для задачи повышения разрешения были достигнуты значения PSNR = 32.26 и SSТМ = 0.89. Исходный код предложенного метода доступен по ссылке: https:/github.com/Kukty/WSI_SR_CL.
Полный текст

Об авторах
Чж. Сун
Московский государственный университет имени М.В. Ломоносова
Автор, ответственный за переписку.
Email: sbitb0009@gse.cs.msu.ru
Россия, Москва
А. В. Хвостиков
Московский государственный университет имени М.В. Ломоносова
Email: khvostikov@cs.msu.ru
Россия, Москва
А. С. Крылов
Московский государственный университет имени М.В. Ломоносова
Email: kryl@cs.msu.ru
Россия, Москва
А. Сетхи
Индийский технологический институт Бомбея
Email: asethi@ee.iitb.ac.in
Индия, Мумбаи
И. А. Михайлов
Московский государственный университет имени М.В. Ломоносова
Email: imihailov@mc.msu.ru
Россия, Москва
П. Г. Мальков
Московский государственный университет имени М.В. Ломоносова
Email: pmalkov@mc.msu.ru
Россия, Москва
Список литературы
- Hu W. et al. A state-of-the-art survey of artificial neural networks for whole-slide image analysis: from popular convolutional neural networks to potential visual transformers // Computers in Biology and Medicine. 2023. V. 161. P. 107034.
- Rodriguez J.P.M. et al. Artificial intelligence as a tool for diagnosis in digital pathology whole slide images: A systematic review // Journal of Pathology Informatics. 2022. P. 100138.
- Wulczyn E. et al. Deep learning-based survival prediction for multiple cancer types using histopathology images // PloS one. 2020. V. 15. № 6. P. e0233678.
- Khvostikov A., Krylov A., Mikhailov I., Malkov P. Visualization and Analysis of Whole Slide Histological Images // Lecture Notes in Computer Science. 2023. V. 13644. P. 403–413.
- Juhong A. et al. Super-resolution and segmentation deep learning for breast cancer histopathology image analysis // Biomedical Optics Express. 2023. V. 14. № 1. P. 18–36.
- Afshari M., Yasir S., Keeney G.L., Jimenez R.E., Garcia J.J., Tizhoosh H.R. Single patch super-resolution of histopathology whole slide images: a comparative study // Journal of Medical Imaging. 2023. V. 10. № 1. P. 017501–017501.
- Chen Z., Wang J., Jia C., Ye X. Pathological image super-resolution using mix-attention generative adversarial network // International Journal of Machine Learning and Cybernetics. 2023. P. 1–11.
- Xie L., Li C., Wang Z., Zhang X., Chen B., Shen Q., Wu Z. SHISRCNet: Super-resolution And Classification Network For Low-resolution Breast Cancer Histopathology Image // Medical Image Computing and Computer Assisted Intervention – MICCAI 2023. 2023. P. 23–32.
- Salgueiro L., Marcello J., Vilaplana V. SEG-ESRGAN: A Multi-Task Network for Super-Resolution and Semantic Segmentation of Remote Sensing Images // Remote Sensing. 2022. V. 14. № 22. P. 5862.
- Wang L., Li D., Zhu Y., Tian L., Shan Y. Dual super-resolution learning for semantic segmentation // Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2020. P. 3774–3783.
- Khvostikov A., Krylov A., Mikhailov I., Malkov P., Danilova N. Tissue type recognition in whole slide histological images // CEUR Workshop Proceedings. 2021. V. 3027. P. 50.
- Larkin K.G. Reflections on shannon information: In search of a natural information-entropy for images //arXiv preprint arXiv:1609.01117, 2016.
- Ledig C. et al. Photo-realistic single image super-resolution using a generative adversarial network // Proceedings of the IEEE conference on computer vision and pattern recognition. 2017. P. 4681–4690.
- Schonfeld E., Schiele B., Khoreva A. A U-Net based discriminator for generative adversarial networks // Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2020. P. 8207–8216.
- Wang X., Xie L., Dong C., Shan Y. Real-ESRGAN: Training real-world blind super-resolution with pure synthetic data // Proceedings of the IEEE/CVF international conference on computer vision. 2021. P. 1905–1914.
- Zhang Y., Tian Y., Kong Y., Zhong B., Fu Y. Residual dense network for image super-resolution // Proceedings of the IEEE conference on computer vision and pattern recognition. 2018. P. 2472–2481.
- Shi W. et al. Real-time single image and video super-resolution using an efficient sub-pixel convolutional neural network // Proceedings of the IEEE conference on computer vision and pattern recognition. 2016. P. 1874–1883.
- He K., Zhang X., Ren S., Sun J. Deep residual learning for image recognition // Proceedings of the IEEE conference on computer vision and pattern recognition. 2016. P. 770–778.
- Schreiber S., Geldenhuys J., De Villiers H. Texture synthesis using convolutional neural networks with long-range consistency and spectral constraints // 2016 Pattern Recognition Association of South Africa and Robotics and Mechatronics International Conference (PRASA-RobMech). IEEE. 2016. P. 1–6.
- Krichen M. Generative adversarial networks // 14th International Conference on Computing Communication and Networking Technologies (ICCCNT). IEEE. 2023. P. 1–7.
- Müller R., Kornblith S., Hinton G.E. When does label smoothing help? // Advances in neural information processing systems. 2019. P. 4696–4705.
- Yoo J., Ahn N., Sohn K.A. Rethinking data augmentation for image super-resolution: A comprehensive analysis and a new strategy // Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2020. P. 8375–8384.
- Huang G. et al. Densely connected convolutional networks // Proceedings of the IEEE conference on computer vision and pattern recognition. 2017. P. 4700–4708.
- Tan M., Le Q. Efficientnetv2: Smaller models and faster training // International conference on machine learning. PMLR. 2021. P. 10096–10106.
- Howard A.G. et al. Mobilenets: Efficient convolutional neural networks for mobile vision applications // arXiv preprint arXiv:1704.04861, 2017.
- Chen Z., Guo X., Woo P.Y., Yuan Y. Super-resolution enhanced medical image diagnosis with sample affinity interaction // IEEE Transactions on Medical Imaging. 2021. V. 40. № 5. P. 1377–1389.
- Wang X. et al. ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks // Computer Vision–ECCV 2018 Workshops: Munich, Germany, September 8–14, 2018. Proceedings. Part V 15. Springer International Publishing. 2019. P. 63–79.
Дополнительные файлы
