<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">geology</journal-id><journal-title-group><journal-title xml:lang="ru">Известия высших учебных заведений. Геология и разведка</journal-title><trans-title-group xml:lang="en"><trans-title>Proceedings of higher educational establishments. Geology and Exploration</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">0016-7762</issn><issn pub-type="epub">2618-8708</issn><publisher><publisher-name>Sergo Ordzhonikidze Russian State University for Geological Prospecting</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.32454/0016-7762-2020-63-6-8-19</article-id><article-id custom-type="elpub" pub-id-type="custom">geology-727</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>ГЕОЛОГИЯ И РАЗВЕДКА МЕСТОРОЖДЕНИЙ УГЛЕВОДОРОДОВ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>GEOLOGY AND PROSPECTING FOR HYDROCARBON RESERVES</subject></subj-group></article-categories><title-group><article-title>Применение алгоритмов машинного обучения в прогнозе результата пиролитического анализа</article-title><trans-title-group xml:lang="en"><trans-title>Application of machine learning algorithms in predicting pyrolytic analysis result</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-5088-0419</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Ле</surname><given-names>Тхи Ныт Сыонг</given-names></name><name name-style="western" xml:lang="en"><surname>Le</surname><given-names>Thi Nhut Suong</given-names></name></name-alternatives><bio xml:lang="ru"><p>Ле Тхи Ныт Сыонг — студентка</p><p>65, Ленинский проспект, г. Москва 119991</p><p>тел.: +7 (977) 586-98-45</p></bio><bio xml:lang="en"><p>Le Thi Nhut Suong — student</p><p>65 Leninskiy ave., Moscow 119991</p><p>tel.: +7 (977) 586-98-45</p></bio><email xlink:type="simple">lethinhutsuong@gmail.com</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0001-8221-1052</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Бондарев</surname><given-names>А. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Bondarev </surname><given-names>A. V.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Бондарев Александр Владимирович  — кандидат геолого-минералогических наук, доцент кафедры поисков и разведки нефти и газа</p><p>Scopus ID: 56308173600</p><p>SPIN-код: 6559-1469</p><p>65, Ленинский проспект, г. Москва 119991</p><p>тел.: +7 (499) 507-88-88</p></bio><bio xml:lang="en"><p>Alexsandr V. Bondarev — Cand. of Sci. (Geol.-Min.), Assoc. Prof.</p><p>Scopus ID: 56308173600</p><p>SPIN-code: 6559-1469</p><p>65 Leninskiy ave., Moscow 119991</p><p>tel.: +7 (499) 507-88-88</p></bio><email xlink:type="simple">jcomtess@yandex.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0003-3986-858X</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Бондарева</surname><given-names>Л. И.</given-names></name><name name-style="western" xml:lang="en"><surname>Bondareva</surname><given-names>L. I.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Бондарева Лиана Ильясовна  — старший преподаватель кафедры поисков и разведки нефти и газа</p><p>Scopus ID: 57209737387</p><p>SPIN-код: 1584-1518</p><p>65, Ленинский проспект, г. Москва 119991</p><p>тел.: +7 (499) 507-84-32</p></bio><bio xml:lang="en"><p>Liana I. Bondareva — senior lecturer</p><p>Scopus ID: 57209737387</p><p>SPIN-code: 1584-1518</p><p>65 Leninskiy ave., Moscow 119991</p><p>tел.: +7 (499) 507-84-32</p></bio><email xlink:type="simple">liana_abril@mail.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0003-3854-4436</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Монакова</surname><given-names>А. С.</given-names></name><name name-style="western" xml:lang="en"><surname>Monakova</surname><given-names>A. S.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Монакова Александра Сергеевна  — кандидат геолого-минералогических наук, доцент кафедры поисков и разведки нефти и газа</p><p>Scopus ID: 8574084700</p><p>SPIN-код: 5619-7973</p><p>65, Ленинский проспект, г. Москва 119991</p><p>тел.: +7 (916) 849-57-04</p></bio><bio xml:lang="en"><p>Aleksandra S. Monakova — Cand. of Sci. (Geol.-Min.), Assoc. Prof.</p><p>Scopus ID: 8574084700</p><p>SPIN-code: 5619-7973</p><p>65 Leninskiy ave., Moscow 119991</p><p>tel.: +7 (916) 849-57-04</p></bio><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-5207-1121</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Баршин</surname><given-names>А. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Barshin</surname><given-names>A. V.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Баршин Андрей Витальевич — преподаватель кафедры поисков и разведки нефти и газа</p><p>Scopus ID: 57221607978</p><p>SPIN-код: 3618-5049</p><p>65, Ленинский проспект, г. Москва 119991</p><p>тел.: +7 (915) 127-32-11</p></bio><bio xml:lang="en"><p>Andrey V. Barshin — lecturer</p><p>Scopus ID: 57221607978</p><p>SPIN-code: 3618-5049</p><p>65 Leninskiy ave., Moscow 119991</p><p>tел.: +7 (915) 127-32-11</p></bio><email xlink:type="simple">barshinsp@gmail.com</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>ФГАОУ ВО «Российский государственный университет нефти и газа (национальный исследовательский университет) имени И. М. Губкина»</institution><country>Россия</country></aff><aff xml:lang="en"><institution>National University of Oil and Gas “Gubkin University”</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2020</year></pub-date><pub-date pub-type="epub"><day>19</day><month>06</month><year>2022</year></pub-date><volume>63</volume><issue>6</issue><fpage>8</fpage><lpage>19</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Ле Т., Бондарев А.В., Бондарева Л.И., Монакова А.С., Баршин А.В., 2022</copyright-statement><copyright-year>2022</copyright-year><copyright-holder xml:lang="ru">Ле Т., Бондарев А.В., Бондарева Л.И., Монакова А.С., Баршин А.В.</copyright-holder><copyright-holder xml:lang="en">Le T., Bondarev  A.V., Bondareva L.I., Monakova A.S., Barshin A.V.</copyright-holder><license license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://www.geology-mgri.ru/jour/article/view/727">https://www.geology-mgri.ru/jour/article/view/727</self-uri><abstract><sec><title>Введение</title><p>Введение. Геохимические исследования органического вещества в нефтематеринских породах играют важную роль для оценки нефтегазонакопления на любой территории. Особенно важную роль эти исследования играют при прогнозе нетрадиционных ресурсов и запасов нефти и газа (т.н. сланцевые УВ). Пиролитические исследования по методу Rock-Eval для пород, насыщенных органическим веществом, рекомендовано проводить на образцах до и после экстракции их хлороформом. Однако экстракция — трудоемкий и длительный процесс, а нагрузка на лабораторное оборудование и время, необходимое для анализа, при этом удваивается.</p></sec><sec><title>Цель</title><p>Цель. Получить рабочую модель прогноза пиролитических параметров после экстракции образцов без проведения самой экстракции.</p></sec><sec><title>Материалы и методы</title><p>Материалы и методы. В этой работе алгоритмы регрессии машинного обучения применяются для прогнозирования одного из параметров пиролиза экстрагированных образцов на основе результатов пиролитического анализа экстрагированных и неэкстрагированных образцов. Для разработки модели прогнозирования были протестированы и сопоставлены 5 различных алгоритмов регрессии машинного обучения, включая множественную линейную регрессию, полиномиальную регрессию, опорную векторную регрессию, дерево решений и случайный лес.</p></sec><sec><title>Результаты</title><p>Результаты. Результат прогнозирования демонстрирует, что взаимосвязь между параметрами до и после экстракции является сложной и нелинейной. Также была оценена производительность этих алгоритмов. Некоторые методы показали свою несовместимость с поставленными задачами, другие показали хорошие и удовлетворительные результаты. Аналогичные алгоритмы возможно применить для прогноза всех геохимических параметров образцов после экстракции.</p></sec><sec><title>Заключение</title><p>Заключение. Наилучшим методом машинного обучения для данной задачи оказался метод случайного леса (Random forest).</p></sec></abstract><trans-abstract xml:lang="en"><sec><title>Introduction</title><p>Introduction. Geochemical studies of organic matter in oil source rocks play an important role in assessing oil and gas accumulation in any territory. These studies play a particularly important role in forecasting unconventional resources and oil and gas reserves (so-called shale hydrocarbons). It is recommended to carry out pyrolytic studies by the Rock-Eval method for rocks saturated with organic matter on samples before and after their extraction with chloroform. However, extraction is a laborious and time-consuming process, and the load on laboratory equipment and the time required for analysis is doubled.</p></sec><sec><title>Aim</title><p>Aim. To get a working model for predicting pyrolytic parameters of extracted samples, without carrying out extraction analysis.</p></sec><sec><title>Materials and methods</title><p>Materials and methods. In this paper, machine learning regression algorithms are applied for predicting one of the pyrolysis parameters of extracted samples based on the pyrolytic analysis results of the extracted and non-extracted samples. To develop the prediction model, 5 different machine learning regression algorithms were applied and compared, including multiple linear regression, polynomial regression, support vector regression, decision tree, and random forest.</p></sec><sec><title>Results</title><p>Results. The prediction result showcases that the relationship between the parameters before and after extraction is complex and non-linear. Some methods have shown their incompatibility with the assigned tasks, others have shown good and satisfactory results. Those algorithms can be applied to predict all geochemical parameters of extracted samples.</p></sec><sec><title>Conclusions</title><p>Conclusions. The best machine learning algorithm for this task is the Random forest.</p></sec></trans-abstract><kwd-group xml:lang="ru"><kwd>машинное обучение</kwd><kwd>регрессия</kwd><kwd>Rock-Eval</kwd><kwd>пиролиз</kwd><kwd>кероген</kwd><kwd>нефтяные сланцы</kwd></kwd-group><kwd-group xml:lang="en"><kwd>machine learning</kwd><kwd>regression</kwd><kwd>Rock-Eval</kwd><kwd>pyrolysis</kwd><kwd>kerogen</kwd><kwd>oil shale</kwd></kwd-group><funding-group><funding-statement xml:lang="ru">авторы выражают благодарность и глубокую признательность, к.г.-м.н.,  ведущему научному сотруднику Сколковского института науки и технологий (Сколтех) Елене Владимировне Козловой за проведение пиролитического анализа и ценные замечания  при работе над данной статьей</funding-statement><funding-statement xml:lang="en">the authors express their gratitude and deep gratitude to Elena Vladimirovna Kozlova, Ph.D., leading researcher at the Skolkovo Institute of Science and Technology  (Skoltech), for the pyrolytic analysis and valuable comments while working on this article</funding-statement></funding-group></article-meta></front><body><sec><title>Введение</title><p>Геохимические исследования ОВ в материнских породах (особенно экспресс-анализ — пиролиз Rock-Eval) на сегодня играют важную роль в прогнозе нефтегазоносности любой территории. Причем справедливо это как для относительно новых нефтегазоносных провинций и районов (с точки зрения оценки объемов генерации и историко-генетического метода прогноза), так и для уже изученных (для доразведки и прогноза нетрадиционных ресурсов УВ).</p><p>В отложениях, около ⅓ матрицы которых занято органическим веществом, необходимо разделение генерирующего вещества и уже сгенерированных углеводородов. Хорошо показала себя методика разделения керогена и битумоида по сравнению результатов пиролитических исследований исходного порошка породы и экстрагированного органическим растворителем [1–3]. После экстракции мы получаем истинные параметры S2 и Tmax, водородного индекса, которые можно использовать как входные параметры для бассейнового моделирования. Экстракция проводится хлороформом в аппарате Сокслета до полного растворения битумоида (до 3 баллов свечения под люминесцентной лампой).</p><p>Экстракция представляет из себя трудоемкий и времязатратный процесс. Например, для пород баженовской свиты Западно-Сибирской нефтегазоносной провинции исчерпывающая экстракция продолжается месяц-полтора. Для этого нужно достаточное количество растворителя, кроме того, загруженность лабораторного оборудования возрастает в два раза. Прогноз параметров керогена после экстракции без проведения самой экстракции уменьшает затраты и время, необходимое для анализа. Описанная проблема является типичной для «машинного обучения» (“machine learning”). Раздел машинного обучения условно разделяется на задачи Классификации и Регрессии.</p><p>Задачей классификации является разбиение массива данных на блоки по схожести нескольких параметров (например, выделение пачек и подслоев в толще, в том числе продуктивных интервалов и/или интервалов повышенного содержания ОВ).</p><p>Задачей регрессии является числовой прогноз параметров, исходя из набора начальных данных. В рамках данной работы прогнозировался один, наиболее важный, по мнению авторов, параметр после экстракции — S2. Для прогноза нескольких параметров лучше подойдут многослойные регрессионные модели нейронных сетей.</p><p>Исследования выполнены по более чем 300 образцам из трех скважин одного месторождения, расположенного в центральной части Западно-Сибирской провинции в пределах Фроловской впадины.</p><p>Данные представляют из себя результаты анализа Rock-Eval, одних и тех же образцов как до экстракции, так и после. Кроме того, имеются данные о молекулярном составе пород по разрезу скважин, однако использование этих данных не показало значительного увеличения точности моделей, более того, большинство методов показало худшие результаты сходимости. Авторы связывают это с несовпадением глубин взятия образцов на геохимический и молекулярный анализ. Иногда разница глубин достигала метра и более, что в условиях резкой анизотропии по вертикали приводит к отсутствию корреляции. А чувствительные к входному набору параметров регрессионные модели машинного обучения пересыщались маловажными входными параметрами, среди которых автоматическому алгоритму было трудно выявить весомые входные параметры (которых оказалось немного).</p><p>Входные параметры для обучения моделей представляют собой стандартный набор результатов анализа Rock-Eval, а именно:</p><p>Сумма пиков S0, S1, S2 рассматривается как генетический потенциал породы;</p><p>По результатам измерений рассчитываются следующие параметры и коэффициенты:</p><p>Процесс анализа образцов происходит по следующей схеме (рис. 1.).</p><fig id="fig-1"><caption><p>Рис. 1. Схема геохимического анализа образцовFig. 1. Scheme of geochemical analysis of samples</p></caption><graphic xlink:href="geology-63-6-g001.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/3EnMCvnb1KKNKPbSpUR6HySG13rZ7IfbokKSlztk.jpeg</uri></graphic></fig><p>Для решения поставленных задач авторами статьи были опробованы следующие методы машинного обучения.</p><p>1. Multiple Linear Regression (Множественная линейная регрессия) [<xref ref-type="bibr" rid="cit10">10</xref>][<xref ref-type="bibr" rid="cit11">11</xref>][<xref ref-type="bibr" rid="cit14">14</xref>][<xref ref-type="bibr" rid="cit20">20</xref>]</p><p>Множественная линейная регрессия (МЛР), также известная как множественная регрессия, — это статистический метод, который использует несколько независимых переменных для прогнозирования результирующей переменной. Цель такой регрессии — смоделировать линейную связь между независимыми переменными и ответной (зависимой) переменной.</p><p>По сути, множественная регрессия — это расширение обычной регрессии методом наименьших квадратов (МНК), которая включает более одной независимой переменной.</p><p>Формула множественной линейной регрессии:</p><p>yi = β0 + β1xi1 + β2xi2 + ... + βpxip,</p><p>где yi — зависимая переменная; xi — объясняющая переменная; βi — вес переменной (от англ. bias — смещение).</p><p>2. Polynomial Regression (Полиномиальная регрессия) [<xref ref-type="bibr" rid="cit15">15</xref>][<xref ref-type="bibr" rid="cit21">21</xref>][<xref ref-type="bibr" rid="cit23">23</xref>]</p><p>Полиномиальная регрессия — это форма линейной регрессии, в которой связь между независимой переменной x и зависимой переменной y моделируется как полином n-й степени. Так же как и множественная линейная регрессия, полиномиальная регрессия определяет зависимость результирующей переменной от нескольких независимых переменных.</p><p>Формула полиномиальной регрессии:</p><p>yi = β0 + β1xi1 + β2x2i2 + ... + βnxnin,</p><p>где yi — зависимая переменная; xi — объясняющая переменная; βi — вес переменной (от англ. bias — смещение).</p><p>3. Support vector regression (Опорная векторная регрессия) [7–9][<xref ref-type="bibr" rid="cit20">20</xref>]</p><p>Опорная векторная регрессия представляет собой метод анализа данных типа «обучение с учителем» (Supervised Learning), разработанный Вапником с коллегами в AT&amp;T Bell Laboratories [<xref ref-type="bibr" rid="cit8">8</xref>]. Суть метода заключается в том, что этот метод переводит исходные векторы в пространство более высокой размерности. И в этом пространстве он ищет разделяющую гиперплоскость с максимальным зазором. Чем больше разница или расстояние между этими параллельными гиперплоскостями, тем меньше будет средняя ошибка классификатора.</p><fig id="fig-2"><caption><p>Рис. 2. Схема модели одномерной регрессии опорных векторовFig. 2. Schematic of a one-dimensional support vector regression model</p></caption><graphic xlink:href="geology-63-6-g002.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/W67bV13WSq4R6RWrXBk6LujHPxF5PVYL2lRVTh7l.jpeg</uri></graphic></fig><p>4. Decision tree (Дерево решений) [<xref ref-type="bibr" rid="cit5">5</xref>][<xref ref-type="bibr" rid="cit12">12</xref>][<xref ref-type="bibr" rid="cit13">13</xref>][<xref ref-type="bibr" rid="cit18">18</xref>]</p><p>Дерево решений — это модель машинного обучения с учителем, используемая для прогнозирования цели путем изучения правил принятия решений из их характеристик. Как следует из названия, мы можем думать об этой модели как о разбивке наших данных путем принятия решения, основанного на серии вопросов.</p><fig id="fig-3"><caption><p>Рис. 3. Схема модели регрессии «дерево решений»Fig. 3. Scheme of the regression model “decision tree”</p></caption><graphic xlink:href="geology-63-6-g003.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/0JvLHXttly7Ok3z7hLwgC8z1XA86TvHiHss2GNi3.jpeg</uri></graphic></fig><p>5. Random forest (Случайный лес) [<xref ref-type="bibr" rid="cit4">4</xref>][<xref ref-type="bibr" rid="cit6">6</xref>][<xref ref-type="bibr" rid="cit16">16</xref>][<xref ref-type="bibr" rid="cit17">17</xref>][<xref ref-type="bibr" rid="cit19">19</xref>][<xref ref-type="bibr" rid="cit22">22</xref>][<xref ref-type="bibr" rid="cit24">24</xref>]</p><p>Случайный лес — это метод, который объединяет прогнозы из нескольких алгоритмов машинного обучения вместе, чтобы делать более точные прогнозы, чем любая отдельная модель. Алгоритм выдает множество прогнозов методами «дерева решений» и потом выводит среднее значение из всех. Забегая вперед, алгоритм случайного леса замечательно справляется со своей задачей, это — один из лучших алгоритмов по точности, но при этом он совершенно ничего не объясняет. То есть это такой черный ящик, который выдает хорошие прогнозы, но абсолютно не рассказывает о том, на чем основана на самом деле зависимость, без дополнительного скрупулезного анализа.</p><fig id="fig-4"><caption><p>Рис. 4. Схема модели регрессии «случайного леса»Fig. 4. Scheme of the “random forest” regression model</p></caption><graphic xlink:href="geology-63-6-g004.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/x6sYVyY4B0YtGWJ45LJWcylWmaFPrzAB3ZjCMnHV.jpeg</uri></graphic></fig><p>Как было указано выше, основной задачей экстракции (а значит, и машинного обучения) является истинное значение параметра S2, который характеризует количество продуктов крекинга керогена (нерастворимого органического вещества). Для создания перечисленных выше моделей использовалась скважина X2 (80% данных), а проверка моделей выполнялась как на скважинах Х1, Х3 так и по Х2 (20% данных).</p><p>В итоге из описанных выше для создания и обучения модели были выбраны следующие параметры: S0, S1, S2, S3, S3’, S4, S4’, S5, Tmax. А параметры TOC, HI, OI, PI, OSI, не использовались для обучения и проверки моделей регрессии как детерминированные от уже имеющихся параметров. Одним из условий использования перечисленных методов является независимость входных переменных.</p><p>Результаты прогноза каждого алгоритма оцениваются коэффициентом детерминации (R2 — R-квадрат). Его рассматривают как универсальную меру зависимости одной случайной величины от множества других. Обычно он изменяется в пределах от 0 до 1. В случае если коэффициент детерминации отрицательный — это означает, что выбранная функция y = f(i) описывает зависимость хуже, чем y = yср, т.е. использовать данную функцию (Модель регрессии) нельзя.где R2 = коэффициент детерминации; RSS = сумма квадратов откл. от среднего (residual sum of squares); TSS = общая сумма квадратов (total sum of squares).</p></sec><sec><title>Результаты</title><p>Сводная таблица коэффициента корреляции результатов с проверочным блоком данных приведена ниже (табл. 1).</p><table-wrap id="table-1"><caption><p>Таблица 1. Оценка результатов точности моделей регрессииTable 1. Evaluation of the results of the accuracy of the regression models</p></caption><table><tbody><tr><td>Метод регрессии</td><td>Коэффициент детерминации R2</td></tr><tr><td>X2 (обучающий)</td><td>Скважина X1</td><td>Скважина X3</td></tr><tr><td>Случайный лес</td><td>0,95</td><td>0,88</td><td>0,96</td></tr><tr><td>Опорная векторная регрессия</td><td>0,89</td><td>0,50</td><td>0,87</td></tr><tr><td>Дерево решений</td><td>0,90</td><td>0,77</td><td>0,91</td></tr><tr><td>Полиномиальная регрессия</td><td>–0,84</td><td>–15,54</td><td>0,03</td></tr><tr><td>Множественная линейная регрессия</td><td>0,96</td><td>–0,76</td><td>0,97</td></tr></tbody></table></table-wrap><p>Для прогноза параметров S2ex прежде всего была применена самая простая регрессия — множественная линейная регрессия. Несмотря на то что это простейший метод, он хорошо подходит для работы с нашим набором данных. Сопоставление результатов расчета модели и фактически измеренных S2ex показано на рисунке 5.</p><fig id="fig-5"><caption><p>Рис. 5. Сопоставление результатов расчета модели и фактически измеренных S2ех методом множественной линейной регрессииFig. 5. Comparison of the results of the model calculation and actually measured S2ex by the method of multiple linear regression</p></caption><graphic xlink:href="geology-63-6-g005.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/n3peopTb2rEXMUWboV55TSDjfEQePqBBfU3vREws.jpeg</uri></graphic></fig><p>Негативной стороной этого метода является то, что он характеризует данные как функцию, поэтому он может дать нам отрицательное значение параметра S2ex, чего быть не может. С новым набором данных, отличающихся от учебного набора, модель может дать нам прогноз, который сильно отличается от реальных значений. Примером может служить скважина X1, которая находится далеко от исходной скважины. В ней есть некоторые значения, которые сильно отличаются от фактических значений (от 75 до 115 мг разницы). И из-за нескольких этих точек оценка детерминации сильно снижается (R2 скважины Х1 равен –0.76). Благодаря этому мы также можем увидеть, насколько строго R2 оценивает наши модели. Для улучшения модели нам нужно больше данных из разных регионов. Тем не менее этот метод достоин прогнозирования значения S2ex соседних скважин, имеющих аналогичные характеристики разреза и фациальные условия.Следующий алгоритм, который был применен, — полиномиальная регрессия. Этот метод дает нам худший результат прогноза даже в обучающей модели (R2 = –0,84), и, очевидно, результат прогнозирования скважин X1, X3 не может быть лучше. R2, соответственно, составляет –15,54 и 0,03. К модели применялись разные степени полинома “n”, но чем больше степень, тем худший результат прогноза мы получили. Результат предсказания полиномиальной регрессии (n = 4) показан на рисунке 6. Мы можем сделать вывод, что взаимосвязь между всеми пиролитическими параметрами до экстракции и S2ex не может быть смоделирована как полином n-й степени.</p><fig id="fig-6"><caption><p>Рис. 6. Сопоставление результатов расчета модели и фактически измеренных S2ех методом полиномиальной регрессииFig. 6. Comparison of the results of the calculation of the model and actually measured S2ex by the method of polynomial regression</p></caption><graphic xlink:href="geology-63-6-g006.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/RGJjR3rPYWDRFxuBM3GCqiitNeofR08YsEJTUfD3.jpeg</uri></graphic></fig><p>Опорная векторная регрессия также применяется для прогнозирования значения S2ex. Этот метод не дает самый лучший результат, но его результат является приемлемым. Результат представлен на рисунке 7. Прогнозируемые результаты обучающей скважины и скважины Х3 достаточно хорошие, R2 составляет 0.89 и 0.87 соответственно, но прогнозируемый результат скважины X1 недостаточно хорош (R2 = 0,5). Этот алгоритм не дает нам отрицательного значения S2ex, что говорит о его применимости и удовлетворительных результатах. Этот метод характеризует наш набор данных с помощью гиперплоскости или функции, а взаимосвязь между параметрами до и после экстракции является достаточно сложной, поэтому не может характеризоваться функцией.</p><fig id="fig-7"><caption><p>Рис. 7. Сопоставление результатов расчета модели и фактически измеренных S2ех методом опорной векторной регрессииFig. 7. Comparison of the model calculation results and actually measured S2ex by the support vector regression method</p></caption><graphic xlink:href="geology-63-6-g007.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/VIxKzT9lKH5njSiml7fByTWI0DjEIrw6hCwTRfVC.jpeg</uri></graphic></fig><p>Переходим к новым инструментам интеллектуального анализа данных и предсказательной аналитики: алгоритмам дерева решений и случайного леса.</p><p>Дерево решений организовано в виде иерархической структуры, состоящей из узлов принятия решений по оценке значений определенных переменных для прогнозирования результирующего значения. Использование деревьев классификации приводит к символическому обозначению класса. Геологический разрез состоит из разных групп пород, имеющих близкие характеристики, т.е. близкое значение S2ex, поэтому алгоритм дерева решений был создан для анализа наших данных. Как и предполагалось, этот метод дает очень хорошие результаты (рис. 8). Значение R2 исходной скважины и скважин X1, X3, соответственно, 0,90, 0,77 и 0,91.</p><fig id="fig-8"><caption><p>Рис. 8. Сопоставление результатов расчета модели и фактически измеренных S2ех методом дерева решенийFig. 8. Comparison of the model calculation results and actually measured S2ex by the decision tree method</p></caption><graphic xlink:href="geology-63-6-g008.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/9bOm6xPHo5PctYV9A5o02y5X8QvFWoiP5UUEJy36.jpeg</uri></graphic></fig><p>Алгоритм дерева решений дает нам хорошие прогнозы, но это не самый лучший способ. Метод, который дает нам лучший результат, — случайный лес (рис. 9). Этот метод объединяет прогнозы из нескольких алгоритмов машинного обучения вместе, чтобы делать более точные прогнозы, чем любая отдельная модель. Значение R2 исходной скважины и скважин X1, X3 составляет 0,95, 0,88 и 0,96 соответственно, что является очень хорошим результатом для такого маленького набора данных.</p><fig id="fig-9"><caption><p>Рис. 9. Сопоставление результатов расчета модели и фактически измеренных S2ех методом случайного лесаFig. 9. Comparison of the model calculation results and actually measured S2ex by the random forest method</p></caption><graphic xlink:href="geology-63-6-g009.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/LSNTSBCKv5BG48BBhohchdJGoextzWhDAXM8YlVP.jpeg</uri></graphic></fig><p>Прогнозируемый результат S2ex всех моделей также сравнивался со значением S2, потому что в экстрагированном образце значение S2 должно быть меньше. Результат представлен на рисунке 10.</p><fig id="fig-10"><caption><p>Рис. 10. Сопоставление результатов расчета моделей (А — множественная линейная регрессия; Б — опорная векторная регрессия; В — дерево решений; Г — случайный лес) и значения S2 по каждому из образцов скважины X3Fig. 10. Comparison of the results of calculating models (A — multiple linear, regression; Б — support vector regression; В — decision tree; Г — random forest) and S2 values for each of the samples of well X3</p></caption><graphic xlink:href="geology-63-6-g010.jpeg"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/geology/2020/6/6i0pgbMZOSHW986M8AA7WpYwkKOMahhsl2G5011O.jpeg</uri></graphic></fig><p>Как видно на рисунке 10, у методов множественной линейной, регрессии, опорной векторной регрессии и дерева решений есть прогнозные значения S2ex больше значения S2, что по определению не может быть верным. Метод случайного леса не только дает хорошие результаты, но и его прогнозы всегда меньше значения S2. Исходя из всех проверок, можем сделать вывод, что алгоритм случайного леса — самый хороший метод прогноза для наших данных.</p></sec><sec><title>Заключение</title><p>Несмотря на то что количество данных для обучения модели ограничено, результат превзошел все ожидания. Следует ожидать увеличения точности по мере расширения блока входных данных для обучения модели. Наилучший результат показали методы случайного леса, опорной векторной регрессии и дерева решений. Алгоритмы случайного леса и дерева решений рекомендуются для прогнозирования результата анализа любых скважин, а множественная линейная регрессия — для всех скважин, близких к исходной скважине. Однако следует понимать, что близость расположения скважин обеспечивает фациальную однородность пород, и в случае увеличения площади исследования возможно уменьшение точности.</p><p>Результат прогнозирования также демонстрирует, что взаимосвязь между параметрами до и после экстракции является сложной и нелинейной. Доказательство тому — значение R2 множественной линейной регрессии, а полиномиальная регрессия отрицательна, что означает, что модель не работает. Однако случайный лес и дерево решений дают нам хорошую производительность. С помощью тех же алгоритмов мы можем применить для прогноза все геохимические параметры по глубине или использовать их для данных ГИС.</p></sec></body><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Бондарев А.В., Данцова К.И., Баршин А.В., Минлигалиева Л.И. Моделирование катагенетического преобразования силурийских нефтегазоматеринских толщ Южного Предуралья на основе статистической обработки результатов анализа Rock-eval // Труды Российского государственного университета нефти и газа им. И.М. Губкина. 2020. № 1 (298). С. 29—37.</mixed-citation><mixed-citation xml:lang="en">Bondarev Alexander V., Dantsova Kristina I., Barshin Andrey V., Minligalieva Liana I. Modeling maturity of organic matter in source rocks of silurian oil and gas source strata of southern urals based on statistical processing of rock-eval results  // Proceedings of Gubkin Russian State University of oil and gas. 2020. № 1 (298). pp. 29—37.</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Ле Тхи Ныт Сыонг, Бондарев А.В., Баршин А.В., Бондарева Л.И. Применение методов машинного обучения для прогноза геохимических параметров анализа Rock-EVAL после экстракции хлороформом // Сборник докладов Региональной научно-технической конференции «Губкинский университет в решении вопросов нефтегазовой отрасли России», 22—23 октября 2020 г. — М.: Издательский центр РГУ нефти и газа (НИУ) имени И.М. Губкина, 2020 — 484 с. ISBN 978-5-91961332-9</mixed-citation><mixed-citation xml:lang="en">Le Thi Nhut Suong, Bondarev A., Barshin A., Bondareva L. Application of machine learning methods for prediction of geochemical parameters of Rock-Eval analysis after chloroform extraction  // Collection of reports of the IV regional scientific and technical conference “Gubkin University in solving issues of the oil and gas industry of Russia”, dedicated to the 90th anniversary of Gubkin University and the Faculty of Economics and Management. 2020. 484 p. ISBN 978-5-91961-332-9.</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Монакова А.С., Осипов А.В., Бондарев А.В., Минлигалиева Л.И. Геохимическая характеристика нефтематеринских пород силурийского возраста южного сегмента Предуральского прогиба (г. Кувандык) // В сб.: Новые идеи в науках о Земле. Материалы XIV Международной научно-практической конференции: в 7 т. 2019. С. 69—70.</mixed-citation><mixed-citation xml:lang="en">Monakova A., Osipov A., Bondarev A., Minligalieva L. Geochemical characteristics of oil-bearing rocks of the Silurian age of the southern segment of the Pre-Ural foredeep (Kuvandyk) // New ideas in Earth sciences. Materials of the XIV International Scientific and Practical Conference. 2019. Vol. 7. pp. 69—70.</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Arlot, Sylvain and Robin Genuer. “Analysis of purely random forests bias.” ArXiv abs/1407.3939 (2014)</mixed-citation><mixed-citation xml:lang="en">Arlot, Sylvain and Robin Genuer. “Analysis of purely random forests bias.” ArXiv abs/1407.3939 (2014)</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Ben-Haim Y. Information-gap theory: decisions under severe uncertainty. Academic Press, London, 2001.</mixed-citation><mixed-citation xml:lang="en">Ben-Haim Y. Information-gap theory: decisions under severe uncertainty. Academic Press, London, 2001.</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Biau G. Analysis of a random forests model. Journal of Machine Learning Research. 2012. Vol. 13. P. 1063— 1095.</mixed-citation><mixed-citation xml:lang="en">Biau G. Analysis of a random forests model. Journal of Machine Learning Research. 2012. Vol. 13. P. 1063— 1095.</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Chih-Chung Chang, Chih-Jen Lin. LIBSVM: a library for support vector machines, 2001.</mixed-citation><mixed-citation xml:lang="en">Chih-Chung Chang, Chih-Jen Lin. LIBSVM: a library for support vector machines, 2001.</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Cortes C., Vapnik V. Support-Vector Networks // MachineLearning. Vol. 20. P. 273—297.</mixed-citation><mixed-citation xml:lang="en">Cortes C., Vapnik V. Support-Vector Networks  // MachineLearning. Vol. 20. P. 273—297.</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Lane D.M. Online Statistics Education: A Multimedia Course of Study (http://onlinestatbook.com/). Rice University.</mixed-citation><mixed-citation xml:lang="en">Lane D.M. Online Statistics Education: A Multimedia Course of Study (http://onlinestatbook.com/). Rice University.</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Draper N.R., Smith H. Applied Regression Analysis. Wiley-Interscience. 1998.</mixed-citation><mixed-citation xml:lang="en">Draper N.R., Smith H. Applied Regression Analysis. Wiley-Interscience. 1998.</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Glantz Stanton A., Slinker B.K. Primer of Applied Regression and Analysis of Variance. McGraw-Hill, 1990.</mixed-citation><mixed-citation xml:lang="en">Glantz Stanton A., Slinker B.K. Primer of Applied Regression and Analysis of Variance. McGraw-Hill, 1990.</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Kamiński B., Jakubczyk M., Szufel P. A framework for sensitivity analysis of decision trees // Central European Journal of Operations Research, 2017. P. 135—159. https://doi.org/10.1007/s10100-017-0479-6. PMC 5767274. PMID 29375266</mixed-citation><mixed-citation xml:lang="en">Kamiński B., Jakubczyk M., Szufel P. A framework for sensitivity analysis of decision trees  //  Central European Journal of Operations Research, 2017. P. 135—159.  https://doi.org/10.1007/s10100-017-0479-6. PMC 5767274. PMID 29375266</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Karimi K., Hamilton H.J. Generation and Interpretation of Temporal Decision Rules // International Journal of Computer Information Systems and Industrial Management Applications, 2011. Vol. 3.</mixed-citation><mixed-citation xml:lang="en">Karimi K., Hamilton H.J. Generation and Interpretation of Temporal Decision Rules  // International Journal of Computer Information Systems and Industrial Management Applications, 2011. Vol. 3.</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Rouaud M. Probability, Statistics and Estimation Propagation of Uncertainties in Experimental Measurement. 2013.</mixed-citation><mixed-citation xml:lang="en">Rouaud M. Probability, Statistics and Estimation Propagation of Uncertainties in Experimental Measurement. 2013.</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Nefedova A.S., Osipov A.V., Ermolkin V.I. The Source Rock Generation Potential of Lower Permian Artinsckian Age in Southern Part of Pre-Ural Fore Deep // In: Geomodel 2016 — 18th Science and Applied Research Conference on Oil and Gas Geological Exploration and Development. 2016.</mixed-citation><mixed-citation xml:lang="en">Nefedova A.S., Osipov A.V., Ermolkin V.I. The Source Rock Generation Potential of Lower Permian Artinsckian Age in Southern Part of Pre-Ural Fore Deep  // In: Geomodel 2016  — 18th Science and Applied Research Conference on Oil and Gas Geological Exploration and Development. 2016.</mixed-citation></citation-alternatives></ref><ref id="cit16"><label>16</label><citation-alternatives><mixed-citation xml:lang="ru">Ho Tin Kam. Random Decision Forests (PDF). Proceedings of the 3rd International Conference on Document Analysis and Recognition, Montreal, QC, 14—16 August 1995. P. 278—282.</mixed-citation><mixed-citation xml:lang="en">Ho Tin Kam.  Random Decision Forests  (PDF). Proceedings of the 3rd International Conference on Document Analysis and Recognition, Montreal, QC, 14—16 August 1995. P. 278—282.</mixed-citation></citation-alternatives></ref><ref id="cit17"><label>17</label><citation-alternatives><mixed-citation xml:lang="ru">Liaw A. and Wiener M. Classification and regression by random forest. Researchgate, 2002. Vol. 2. P. 18—22.</mixed-citation><mixed-citation xml:lang="en">Liaw A. and Wiener M. Classification and regression by random forest. Researchgate 2002. Vol. 2. P. 18—22.</mixed-citation></citation-alternatives></ref><ref id="cit18"><label>18</label><citation-alternatives><mixed-citation xml:lang="ru">Quinlan J.R. Simplifying decision trees // International Journal of Man-Machine Studies. 1987. P. 221—234. https://doi.org/10.1016/S0020-7373(87)80053-6</mixed-citation><mixed-citation xml:lang="en">Quinlan J.R. Simplifying decision trees // International Journal of Man-Machine Studies. 1987. P. 221—234. https://doi.org/10.1016/S0020-7373(87)80053-6</mixed-citation></citation-alternatives></ref><ref id="cit19"><label>19</label><citation-alternatives><mixed-citation xml:lang="ru">Scornet E. Random forests and kernel methods. 2015.</mixed-citation><mixed-citation xml:lang="en">Scornet E. Random forests and kernel methods. 2015.</mixed-citation></citation-alternatives></ref><ref id="cit20"><label>20</label><citation-alternatives><mixed-citation xml:lang="ru">Smola A., Schoelkopf B. A tutorial on support vector regression: Tech. Rep. 1998.</mixed-citation><mixed-citation xml:lang="en">Smola A., Schoelkopf B. A tutorial on support vector regression: Tech. Rep. 1998.</mixed-citation></citation-alternatives></ref><ref id="cit21"><label>21</label><citation-alternatives><mixed-citation xml:lang="ru">Tissot B.P., Welt, D.H. Petroleum formation and occurrence. Springer, Berlin, 1984.</mixed-citation><mixed-citation xml:lang="en">Tissot B.P., Welt, D.H. Petroleum formation and occurrence. Springer, Berlin, 1984.</mixed-citation></citation-alternatives></ref><ref id="cit22"><label>22</label><citation-alternatives><mixed-citation xml:lang="ru">Yan Xin. Linear Regression Analysis: Theory and Computing, World Scientific. 2009. P. 1—2.</mixed-citation><mixed-citation xml:lang="en">Yan Xin.  Linear Regression Analysis: Theory and Computing, World Scientific. 2009. P. 1—2.</mixed-citation></citation-alternatives></ref><ref id="cit23"><label>23</label><citation-alternatives><mixed-citation xml:lang="ru">Yin-Wen Chang, Cho-Jui Hsieh, Kai-Wei Chang, Michael Ringgaard, Chih-Jen Lin, Training and testing low-degree polynomial data mappings via linear SVM // Journal of Machine Learning Research. P. 1471—1490.</mixed-citation><mixed-citation xml:lang="en">Yin-Wen Chang, Cho-Jui Hsieh, Kai-Wei Chang, Michael Ringgaard, Chih-Jen Lin, Training and testing low-degree polynomial data mappings via linear SVM // Journal of Machine Learning Research. P. 1471—1490.</mixed-citation></citation-alternatives></ref><ref id="cit24"><label>24</label><citation-alternatives><mixed-citation xml:lang="ru">Zhu R., Zeng D., Kosorok M.R. Reinforcement Learning Trees // Journal of the American Statistical Association. 2015. P. 1770—1784. https://doi.org/10.1080/01621459.2015.1036994</mixed-citation><mixed-citation xml:lang="en">Zhu R., Zeng D., Kosorok M.R.  Reinforcement Learning Trees // Journal of the American Statistical Association. 2015. P. 1770—1784. https://doi.org/10.1080/01621459.2015.1036994</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
