Извлечение информации из структурированных документов, содержащих текст на естественном языке

Извлечение информации из структурированных документов, содержащих текст на естественном языке

Иллюстрации

Показать все

Реферат

[0001] Настоящее изобретение относится к компьютерным системам в широком смысле и, в частности, к системам и методам обработки естественного языка.

УРОВЕНЬ ТЕХНИКИ

[0002] Текст на естественном языке может быть структурирован посредством табличной формы представления. Таблица может содержать множество ячеек, представленных в виде строк и столбцов. По крайней мере некоторые из них могут содержать текст на естественном языке. Кроме того, таблица может содержать заголовок, включающий, по крайней мере, одну заголовочную ячейку, т.е. название для одного или более столбцов таблицы. Заголовочная ячейка может содержать описание, определение или другую информацию, ассоциированную с каждой ячейкой соответствующего столбца.

РАСКРЫТИЕ ИЗОБРЕТЕНИЯ

[0003] В соответствии с одним или более вариантами настоящего раскрытия изобретения пример реализации метода может включать: получение таблицы, содержащей текст на естественном языке; идентификацию заголовка таблицы и множества ячеек, образующих строки и столбцы; выполнение семантико-синтаксического анализа текста на естественном языке для получения множества семантических структур; интерпретацию множества семантических структур с использованием первого набора продукционных правил для получения объекта данных, представленного таблицей; выполнение анализа заголовка таблицы для определения множества онтологических классов, ассоциированных с соответствующими столбцами таблицы; и модификацию объекта данных, представленного таблицей, используя второй набор продукционных правил, связанных с онтологическими классами, ассоциированными со столбцами таблицы.

[0004] В соответствии с одним или более вариантами настоящего раскрытия изобретения пример реализации системы может включать: устройство памяти; процессор, связанный с устройством памяти, и сконфигурированные для: получения вычислительным устройством таблицы, содержащей текст на естественном языке; идентификации заголовка таблицы и множества ячеек, образующих строки и столбцы; выполнения семантико-синтаксического анализа текста на естественном языке для получения множества семантических структур; интерпретации множества семантических структур с использованием первого набора продукционных правил для получения объекта данных, представленного таблицей; выполнения анализа заголовка таблицы для определения множества онтологических классов, ассоциированных с соответствующими столбцами таблицы; и модификации объекта данных, представленного таблицей, используя второй набор продукционных правил, связанных с онтологическими классами, ассоциированными со столбцами таблицы.

[0005] В соответствии с одним или более вариантами настоящего раскрытия изобретения пример реализации постоянного машиночитаемый носитель данных, содержащий исполняемые команды, которые при исполнении их вычислительным устройством приводят к выполнению операций, включающих: получение вычислительным устройством таблицы, содержащей текст на естественном языке; идентификацию заголовка таблицы и множества ячеек, образующих строки и столбцы; выполнение семантико-синтаксического анализа текста на естественном языке для получения множества семантических структур; интерпретацию множества семантических структур с использованием первого набора продукционных правил для получения объекта данных, представленного таблицей; выполнение анализа заголовка таблицы для определения множества онтологических классов, ассоциированных с соответствующими столбцами таблицы; и модификацию объекта данных, представленного таблицей, используя второй набор продукционных правил, связанных с онтологическими классами, ассоциированными со столбцами таблицы.

КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ

[0006] Настоящее изобретение иллюстрируется с помощью примеров, а не путем ограничений. Для более полного его понимания приведенное ниже описание предпочтительных вариантов реализации следует рассматривать в сочетании с чертежами, на которых:

[0007] На Фиг. 1 приведена блок-схема, иллюстрирующая пример реализации способа извлечения информации из структурированных документов, содержащих текст на естественном языке, согласно настоящему изобретению;

[0008] На Фиг. 2 показана блок-схема, иллюстрирующая пример реализации способа 200 семантико-синтаксического анализа предложения на естественном языке 212 в соответствии с вариантом реализации настоящего изобретения;

[0009] Фиг. 3 схематично иллюстрирует пример лексико-морфологической структуры предложения в соответствии с одним или несколькими вариантами реализации настоящего изобретения;

[0010] Фиг. 4 является иллюстрацией лингвистических описаний, представляющих модель естественного языка, в соответствии с одним или несколькими вариантами реализации настоящего изобретения;

[0011] Фиг. 5 схематично иллюстрирует пример морфологических описаний в соответствии с одним или несколькими вариантами реализации настоящего изобретения;

[0012] Фиг. 6 схематично иллюстрирует пример синтаксических описаний в соответствии с одним или несколькими вариантами реализации настоящего изобретения;

[0013] Фиг. 7 схематично иллюстрирует пример семантических описаний в соответствии с одним или несколькими вариантами реализации настоящего изобретения;

[0014] Фиг. 8 схематично иллюстрирует пример лексических описаний в соответствии с одним или несколькими вариантами настоящего изобретения;

[0015] Фиг. 9 показана последовательность структур данных в соответствии в соответствии с одним или несколькими вариантами реализации настоящего изобретения;

[0016] Фиг. 10 схематично иллюстрирует пример графа обобщенных составляющих в соответствии в соответствии с одним или несколькими вариантами реализации настоящего изобретения;

[0017] Фиг. 11 является иллюстрацией одного из вариантов синтаксической структуры предложения, представленного на Фиг. 10;

[0018] Фиг. 12 является иллюстрацией семантической структуры предложения, показанного на Фиг. 11;

[0019] Фиг. 13 схематично иллюстрирует различные типы утверждений, которые используются в процессе извлечения информации в соответствии в соответствии с вариантами реализации настоящего изобретения;

[0020] Фиг. 14 схематично иллюстрирует процесс интерпретации семантических структур, полученных в результате семантико-синтаксического анализа в соответствии в соответствии с вариантами реализации настоящего изобретения;

[0021] Фиг. 15 схематично иллюстрирует пример вспомогательной онтологии, содержащей различные классы, ассоциированные с некоторыми аспектами табличной структуры, в соответствии с вариантами реализации настоящего изобретения;

[0022] Фиг. 16А-16В иллюстрируют примеры таблиц и правил, применяемых в обработке заголовков в соответствии с вариантами реализации настоящего изобретения;

[0023] Фиг. 17 схематично иллюстрирует пример таблицы и набор правил для обработки содержимого таблицы в соответствии с вариантами реализации настоящего изобретения;

[0024] На Фиг. 18 изображена схема примера вычислительного устройства, осуществляющего методы настоящего изобретения.

ОПИСАНИЕ ПРЕДПОЧТИТЕЛЬНЫХ ВАРИАНТОВ РЕАЛИЗАЦИИ ИЗОБРЕТЕНИЯ

[0025] Ниже описываются способы и системы для извлечения информации из структурированных документов (например, документов, включающих таблицы, документов, имеющих многоуровневую структуру, включая секции и подсекции и т.п.), содержащих текст на естественном языке.

[0026] Извлечение информации является одной из важнейших операций в автоматической обработке текстов на естественном языке. Информация, извлеченная из документа может быть представлена как один или более информационных объектов, включая определения объектов, отношения между объектами и/или утверждения, ассоциированные с этими объектами. В некоторых реализациях информационные объекты могут быть представлены в виде RDF(Resource Definition Framework)-графов.

[0027] Информация в некоторых документах может быть структурирована различными способами. Например, документ может содержать одну и более таблиц, в свою очередь, каждая таблица может включать множество ячеек, образующих столбцы и строки. Наконец, некоторые из ячеек могут содержать текст на естественном языке. Таблица может содержать заголовок, включающий, по крайней мере, одну заголовочную ячейку, т.е. название для одного или более столбцов таблицы. Заголовочная ячейка может содержать описание, определение или другую информацию, ассоциированную с каждой ячейкой соответствующего столбца. Таким образом, информация, содержащаяся в таблице, может быть уточнена посредством информации, извлеченной из заголовков (например, используя отношения между объектами, описанными в таблице).

[0028] Настоящее описание раскрывает способы и системы для извлечения информации из структурированных документов (например, документов, включающих таблицы, документов, имеющих многоуровневую структуру, включая секции и подсекции и т.п.), содержащих текст на естественном языке.

[0029] В настоящем документе термин "вычислительное устройство" означает устройство обработки данных, оснащенное универсальным процессором, памятью и по меньшей мере одним интерфейсом связи. Примерами вычислительных устройств, которые могут использовать описанные в этом документе способы, являются, помимо прочего, настольные компьютеры, портативные компьютеры, планшетные компьютеры и смартфоны.

[0030] Способы извлечения информации в соответствии с вариантами реализации настоящего изобретения позволяют представлять извлеченную информацию в виде, согласованном с некоторыми предопределенными или создаваемыми динамически онтологиями. "Онтология" ниже означает модель, которая представляет собой объекты, относящиеся к определенной области знаний (предметной области), и отношения между данными объектами. Онтология может включать определения некого множества классов, где каждый класс соответствует концепту предметной области. Каждое определение класса может включать определения одного или более отнесенных к данному классу объектов. Согласно общепринятой терминологии класс онтологии может также означать концепт, а принадлежащий классу объект может означать экземпляр данного концепта.

[0031] В качестве иллюстративного примера класс "Person" (Человек) может быть соотнесен с одним или более объектами, соответствующими определенным лицам. Определение каждого класса может далее включать одно или несколько определений отношений одного или более отнесенных к данному классу объектов. Определение каждого класса может далее включать одно или несколько ограничений, устанавливающих определенные свойства объектов класса. В определенных вариантах осуществления класс может являться предком или потомком другого класса.

[0032] Определение объекта может представлять собой материальный объект реального мира (как, например, человек или вещь) либо некое понятие, соотнесенное с одним или более объектами реального мира (как, например, число или слово). В определенных вариантах осуществления объект может быть соотнесен с двумя или более классами. Онтология может являться предком или (и) потомком другой онтологии, в случае чего концепты и свойства онтологии-предка также относятся к онтологии-потомку.

[0033] В соответствии с одним или более аспектами настоящего изобретения вычислительное устройство, осуществляющее данный способ, может анализировать таблицу, содержащую текст на естественном языке, распознавая при этом ее структуру. В частности, вычислительное устройство может идентифицировать заголовок таблицы и набор ячеек, образующих ее столбцы и строки.

[0034] Вычислительное устройство может затем выполнять синтаксический и семантический анализ текста на естественном языке, содержащегося в ячейках таблицы, широкий спектр как языкозависимых, так и универсальных лингвистических описаний. Синтаксический и семантический анализ позволяет получить независимые от языка семантические структуры, представляющие информацию, содержащуюся в ячейках таблицы.

[0035] Затем вычислительное устройство, используя онтологию общего назначения или предметно-ориентированную онтологию, ассоциированную с областью знаний, к которой относится информация, представленная в таблице, может извлечь информацию из множества семантических структур. Извлечение информации осуществляется при помощи продукционных правил, которые создаются без учета структуры самой таблицы, т.е. являются структурно-независимыми. Каждое продукционное правило может включать набор логических выражений, определенных для одного или более шаблона семантической структуры. В некоторых реализациях информация, извлеченная из ячеек таблицы, может быть представлена объектами RDF-графа.

[0036] Затем вычислительное устройство может перейти к обработке заголовка таблицы. В частности, вычислительное устройство может идентифицировать множество онтологических классов, которые могут быть ассоциированы с соответствующими столбцами таблицы, используя онтологию общего назначения или предметно-ориентированную онтологию, ассоциированную с областью, к которой относится документ. В процессе анализа заголовка таблицы вычислительное устройство, кроме того, может использовать вспомогательную онтологию, содержащую классы, связанные с некоторыми свойствами и особенностями табличной структуры.

[0037] Вычислительное устройство может при этом уточнять и добавлять информацию к объекту RDF-графа, ранее построенному в процессе извлечения информации из ячеек таблицы без учета особенностей табличной структуры. В частности, вычислительное устройство применять к информации, извлеченной из ячеек таблицы, некоторые продукционные правила, связанные с множеством классов онтологии, которые определены заголовками таблицы.

[0038] Различные аспекты упомянутых выше способов и систем подробно описаны ниже в этом документе с помощью примеров, а не способом ограничения.

[0039] На Фиг. 1 приведена блок-схема одного иллюстративного примера способа 100 извлечения информации из структурированных документов, содержащих текст на естественном языке в соответствии с вариантом реализации настоящего изобретения. Способ 100 и (или) каждая из его отдельных функций, стандартных программ, подпрограмм или операций может выполняться с помощью одного или более процессоров вычислительного устройства, реализующего данный способ. В некоторых вариантах осуществления способ 100 может выполняться в одном потоке обработки. При альтернативном подходе способ 100 может быть реализован с помощью двух или более потоков обработки, при этом каждый поток выполняет одну или несколько отдельных функций, стандартных программ, подпрограмм или операций данного способа. В качестве иллюстративного примера потоки обработки, реализующие способ 100, могут быть синхронизованы (например, с использованием семафоров, критических секций и (или) других механизмов синхронизации потоков). При альтернативном подходе потоки обработки, реализующие способ (100), могут выполняться асинхронно по отношению друг к другу.

[0040] В блоке 120 вычислительное устройство, реализующее данный способ, может анализировать таблицу 110, содержащую текст на естественном языке, с целью определения структуры таблицы. В некоторых реализациях вычислительное устройство может идентифицировать один или более заголовков таблицы и множество ячеек, образующих строки и столбцы таблицы, как будет более подробно описано ниже.

[0041] В блоке 130 вычислительное устройство, реализующее данный способ, может проводить семантико-синтаксический анализ текста, заключенного в ячейках таблицы, используя языкозависимые и универсальные лингвистические описания. Синтаксический и семантический анализ позволяет получить независимые от языка семантические структуры, представляющие информацию, содержащуюся в ячейках таблицы.

[0042] В блоке 140 вычислительное устройство может интерпретировать полученное множество семантических структур, используя продукционные правила и онтологию общего назначения или предметно-ориентированную онтологию, ассоциированную с областью знаний, к которой относится информация, представленная в таблице. Каждое продукционное правило может включать набор логических выражений, определенных для одного или более шаблона семантической структуры. В некоторых реализациях информация, извлеченная из ячеек таблицы, может быть представлена объектами RDF-графа.

[0043] В блоке 150 вычислительное устройство может анализировать заголовок таблицы с тем, чтобы по возможности связать по крайней мере один столбец таблицы с одним или более классов общей онтологии или специальной онтологии, относящейся к информации, представленной в таблице. В некоторых реализациях, чтобы способствовать анализу заголовка, вычислительное устройство может использовать вспомогательную онтологию (например, как онтология 1510 на Фиг. 15), которая включает классы, связанные со свойствами табличной структуры.

[0044] В блоке 160 вычислительное устройство может уточнять и модифицировать объекты RDF-графа, ранее созданные в процессе извлечения информации из ячеек таблицы. В частности, объекты RDF-графа могут уточняться в результате применения к информации, извлеченной из ячеек таблицы, множества продукционных правил, связанных с множеством классов онтологии, которые определены заголовками таблицы.

[0045] На Фиг. 2 приведена блок-схема одного иллюстративного примера способа 200 проведения семантико-синтаксического анализа предложения на естественном языке 212 в соответствии с одним или более аспектами настоящего изобретения. Способ 200 может быть применен к одной или более синтаксическим единицам (например, предложениям), включенным в определенный текстовый документ или таблицу с текстом, для формирования множества семантико-синтаксических деревьев, соответствующих синтаксическим единицам.

[0046] В блоке 214 вычислительное устройство, реализующее данный способ, может проводить лексико-морфологический анализ предложения 212 для установления морфологических значений слов, входящих в состав предложения. В настоящем документе "морфологическое значение" слова означает одну или несколько лемм (т.е. канонических или словарных форм), соответствующих слову, и соответствующий набор значений грамматических признаков, которые определяют грамматическое значение слова. В число таких грамматических признаков могут входить лексическая категория (часть речи) слова и один или более морфологических и грамматических признаков (например, падеж, род, число, спряжение и т.д.). Ввиду омонимии и (или) совпадающих грамматических форм, соответствующих разным лексико-морфологическим значениям определенного слова, для данного слова может быть установлено два или более морфологических значений. Более подробное описание иллюстративного примера проведения лексико-морфологического анализа предложения приведено ниже в настоящем документе со ссылкой на Фиг. 3.

[0047] В блоке 215 вычислительное устройство может проводить грубый синтаксический анализ предложения 212. Грубый синтаксический анализ может включать применение одной или нескольких синтаксических моделей, которые могут быть соотнесены с элементами предложения 212, с последующим установлением поверхностных (т.е. синтаксических) связей в рамках предложения 212 для получения графа обобщенных составляющих. В настоящем документе "составляющая" означает группу соседних слов исходного предложения, функционирующую как одна грамматическая сущность. Составляющая включает в себя ядро в виде одного или более слов и может также включать одну или несколько дочерних составляющих на более низких уровнях. Дочерняя составляющая является зависимой составляющей, которая может быть соотнесена с одной или несколькими родительскими составляющими.

[0048] В блоке 216 вычислительное устройство может проводить точный синтаксический анализ предложения 212 для формирования одного или более синтаксических деревьев предложения. Среди различных синтаксических деревьев на основе определенной функции оценки с учетом совместимости лексических значений слов исходного предложения, поверхностных отношений, глубинных отношений и т.д. может быть отобрано одно или несколько лучших синтаксических деревьев, соответствующих предложению 212.

[0049] В блоке 217 вычислительное устройство может обрабатывать синтаксические деревья для формирования семантической структуры 218, соответствующей предложению 212. Семантическая структура 218 может включать множество узлов, соответствующих семантическим классам и также может включать множество дуг, соответствующих семантическим отношениям (более подробное описание см. ниже в настоящем документе).

[0050] На Фиг. 3 схематически иллюстрируется пример лексико-морфологической структуры предложения в соответствии с одним или более аспектами настоящего изобретения. Пример лексико-морфологической структуры 300 может включать множество пар "лексическое значение - грамматическое значение" для примера предложения 320. В качестве иллюстративного примера, "ll" может быть соотнесено с лексическим значением "shall" 312 и "will" 314. Грамматическим значением, соотнесенным с лексическим значением 312, является <Verb, GTVerbModal, ZeroType, Present, Nonnegative, Composite II>. Грамматическим значением, соотнесенным с лексическим значением 314, является <Verb, GTVerbModal, ZeroType, Present, Nonnegative, Irregular, Composite II>.

[0051] Фиг. 4 схематически иллюстрирует используемые языковые описания 210, в том числе морфологические описания 201, лексические описания 203, синтаксические описания 202 и семантические описания 204, а также отношения между ними. Среди них морфологические описания 201, лексические описания 203 и синтаксические описания 202 зависят от языка. Набор языковых описаний 210 представляет собой модель определенного естественного языка.

[0052] В качестве иллюстративного примера определенное лексическое значение в лексических описаниях 203 может быть соотнесено с одной или несколькими поверхностными моделями синтаксических описаний 202, соответствующих данному лексическому значению. Определенная поверхностная модель синтаксических описаний 202 может быть соотнесена с глубинной моделью семантических описаний 204.

[0053] На Фиг. 5 схематически иллюстрируются несколько примеров морфологических описаний. В число компонентов морфологических описаний 201 могут входить: описания словоизменения 310, грамматическая система 320, описания словообразования 330 и другие. Грамматическая система 320 включает набор грамматических категорий, таких как часть речи, падеж, род, число, лицо, возвратность, время, вид и их значения (так называемые "граммемы"), в том числе, например, прилагательное, существительное или глагол; именительный, винительный или родительный падеж; женский, мужской или средний род и т.д. Соответствующие граммемы могут использоваться для составления описания словоизменения 310 и описания словообразования 330.

[0054] Описание словоизменения 310 определяет формы данного слова в зависимости от его грамматических категорий (например, падеж, род, число, время и т.д.) и в широком смысле включает в себя или описывает различные возможные формы слова. Описание словообразования 330 определяет, какие новые слова могут быть образованы от данного слова (например, сложные слова).

[0055] В соответствии с одним из аспектов настоящего изобретения при установлении синтаксических отношений между элементами исходного предложения могут использоваться модели составляющих. Составляющая представляет собой группу соседних слов в предложении, ведущих себя как единое целое. Ядром составляющей является слово, она также может содержать дочерние составляющие более низких уровней. Дочерняя составляющая является зависимой составляющей и может быть прикреплена к другим составляющим (родительским) для построения синтаксических описаний 202 исходного предложения.

[0056] На Фиг. 6 приведены примеры синтаксических описаний. В число компонентов синтаксических описаний 202 могут входить, среди прочего, поверхностные модели 410, описания поверхностных позиций 420, описание референциального и структурного контроля 456, описание управления и согласования 440, описание недревесного синтаксиса 450 и правила анализа 460. Синтаксические описания 202 могут использоваться для построения возможных синтаксических структур исходного предложения на заданном естественном языке с учетом свободного линейного порядка слов, недревесных синтаксических явлений (например, согласование, эллипсис и т.д.), референциальных отношений и других факторов.

[0057] Поверхностные модели 410 могут быть представлены в виде совокупностей одной или нескольких синтаксических форм («синтформ» 412) для описания возможных синтаксических структур предложений, входящих в состав синтаксического описания 202. В целом, лексическое значение слова на естественном языке может быть связано с поверхностными (синтаксическими) моделями 410. Поверхностная модель может представлять собой составляющие, которые возможны, если лексическое значение выступает в роли "ядра". Поверхностная модель может включать набор поверхностных позиций дочерних элементов, описание линейного порядка и (или) диатезу. В настоящем документе "диатеза" означает определенное отношение между поверхностными и глубинными позициями и их семантическими ролями, выражаемыми посредством глубинных позиций. Например, диатеза может быть выражаться залогом глагола: если субъект является агентом действия, глагол в активном залоге, а когда субъект является направлением действия, это выражается пассивным залогом глагола.

[0058] В модели составляющих может использоваться множество поверхностных позиций 415 дочерних составляющих и описаний их линейного порядка 416 для описания грамматических значений 414 возможных заполнителей этих поверхностных позиций. Диатезы 417 представляют собой соответствия между поверхностными позициями 415 и глубинными позициями 514 (как показано на Фиг. 7). Коммуникативные описания 480 описывают коммуникативный порядок в предложении.

[0059] Описание линейного порядка (416) может быть представлено в виде выражений линейного порядка, отражающих последовательность, в которой различные поверхностные позиции (415) могут встречаться в предложении. В число выражений линейного порядка могут входить наименования переменных, имена поверхностных позиций, круглые скобки, граммемы, оператор «or» (или) и т.д. В качестве иллюстративного примера описание линейного порядка простого предложения "Boys play football" можно представить в виде "Subject Core Object_Direct" (Подлежащее - Ядро - Прямое дополнение), где Subject (Подлежащее), Core (Ядро) и Object_Direct (Прямое дополнение) представляют собой имена поверхностных позиций 415, соответствующих порядку слов.

[0060] Коммуникативные описания 480 могут описывать порядок слов в синтформе 412 с точки зрения коммуникативных актов, представленных в виде коммуникативных выражений порядка, которые похожи на выражения линейного порядка. Описания управления и согласования 440 может включать правила и ограничения на грамматические значения присоединяемых составляющих, которые используются во время синтаксического анализа.

[0061] Описания недревесного синтаксиса 450 могут создаваться для отражения различных языковых явлений, таких как эллипсис и согласование, они используются при трансформациях синтаксических структур, которые создаются на различных этапах анализа в различных вариантах реализации изобретения. Описания недревесного синтаксиса 450 могут, среди прочего, включать описание эллипсиса 452, описания согласования 454, а также описания референциального и структурного контроля 430.

[0062] Правила анализа 460 могут описывать свойства конкретного языка и использоваться в рамках семантического анализа. Правила анализа 460 могут включать правила вычисления семантем 462 и правила нормализации 464. Правила нормализации 464 могут использоваться для описания трансформаций семантических структур, которые могут отличаться в разных языках.

[0063] На Фиг. 7 приведен пример семантических описаний. Компоненты семантических описаний 204 не зависят от языка и могут, среди прочего, включать семантическую иерархию 510, описания глубинных позиций 520, систему семантем 530 и прагматические описания 540.

[0064] Ядро семантических описаний может быть представлено семантической иерархией 510, в которую могут входить семантические понятия (семантические сущности), также называемые семантическими классами. Последние могут быть упорядочены в иерархическую структуру, отражающую отношения "родитель-потомок". В целом, дочерний семантический класс может унаследовать одно или более свойств своего прямого родителя и других семантических классов-предков. В качестве иллюстративного примера семантический класс SUBSTANCE (Вещество) является дочерним семантическим классом класса ENTITY (Сущность) и родительским семантическим классом для классов GAS, (Газ), LIQUID (Жидкость), METAL (Металл), WOOD_MATERIAL (Древесина) и т.д.

[0065] Каждый семантический класс в семантической иерархии 510 может сопровождаться глубинной моделью 512. Глубинная модель 512 семантического класса может включать множество глубинных позиций 514, которые могут отражать семантические роли дочерних составляющих в различных предложениях с объектами данного семантического класса в качестве ядра родительской составляющей. Глубинная модель 512 также может включать возможные семантические классы, выступающие в роли заполнителей глубинных позиций. Глубинные позиции (514) могут выражать семантические отношения, в том числе, например, "agent" (агенс), "addressee" (адресат), "instrument" (инструмент), "quantity" (количество) и т.д. Дочерний семантический класс может наследовать и уточнять глубинную модель своего непосредственного родительского семантического класса.

[0066] Описания глубинных позиций 520 отражают семантические роли дочерних составляющих в глубинных моделях 512 и могут использоваться для описания общих свойств глубинных позиций 514. Описания глубинных позиций 520 также могут содержать грамматические и семантические ограничения в отношении заполнителей глубинных позиций 514. Свойства и ограничения, связанные с глубинными позициями 514 и их возможными заполнителями в различных языках, могут быть в значительной степени подобными и зачастую идентичными. Таким образом, глубинные позиции 514 не зависят от языка.

[0067] Система семантем 530 может представлять собой множество семантических категорий и семантем, которые представляют значения семантических категорий. В качестве иллюстративного примера семантическая категория "DegreeOfComparison" (Степень сравнения) может использоваться для описания степени сравнения прилагательных и включать следующие семантемы: "Positive" (Положительная), "ComparativeHigherDegree" (Сравнительная степень сравнения), "SuperlativeHighestDegree" (Превосходная степень сравнения) и другие. В качестве еще одного иллюстративного примера семантическая категория "RelationToReferencePoint" (Отношение к точке) может использоваться для описания порядка (пространственного или временного в широком смысле анализируемых слов), как, например, до или после точки или события, и включать семантемы "Previous" (Предыдущий) и "Subsequent" (Последующий). В качестве еще одного иллюстративного примера семантическая категория "EvaluationObjective" (Оценка) может использоваться для описания объективной оценки, как, например, "Bad" (Плохой), "Good" (Хороший) и т.д.

[0068] Система семантем 530 может включать независимые от языка семантические атрибуты, которые могут выражать не только семантические характеристики, но и стилистические, прагматические и коммуникативные характеристики. Некоторые семантемы могут использоваться для выражения атомарного значения, которое находит регулярное грамматическое и (или) лексическое выражение в естественном языке. По своему целевому назначению и использованию системы семантем могут разделяться на категории, например, грамматические семантемы 532, лексические семантемы 534 и классифицирующие грамматические (дифференцирующие) семантемы 536.

[0069] Грамматические семантемы 532 могут использоваться для описания грамматических свойств составляющих при преобразовании синтаксического дерева в семантическую структуру. Лексические семантемы 534 могут описывать конкретные свойства объектов (например, "being flat" (быть плоским) или "being liquid" (являться жидкостью)) и использоваться в описаниях глубинных позиций 520 как ограничение заполнителей глубинных позиций (например, для глаголов "face (with)" (облицовывать) и "flood" (заливать), соответственно). Классифицирующие грамматические (дифференцирующие) семантемы 536 могут выражать дифференциальные свойства объектов внутри одного семантического класса. В качестве иллюстративного примера в семантическом классе HAIRDRESSER (ПАРИКМАХЕР) семантема <<RelatedToMen>> (Относится к мужчинам) присваивается лексическому значению "barber" в отличие от других лексических значений, которые также относятся к этому классу, например, «hairdresser», «hairstylist» и т.д. Используя данные независимые от языка семантические свойства, которые могут быть выражены в виде элементов семантического описания, в том числе семантических классов, глубинных позиций и семантем, можно извлекать семантическую информацию в соответствии с одним или более аспектами настоящего изобретения.

[0070] Прагматические описания 540 позволяют назначать определенную тему, стиль или жанр с текстам и объектам семантической иерархии 510 (например, «Экономическая политика», «Внешняя политика», «Юриспруденция», «Законодательство», «Торговля», «Финансы» и т.д.). Прагматические свойства также могут выражаться семантемами. В качестве иллюстративного примера прагматический контекст может приниматься во внимание при семантическом анализе.

[0071] На Фиг. 8 приведен пример лексических описаний. Лексические описания (203) представляют собой множество лексических значений 612 конкретного естественного языка. Для каждого лексического значения 612 имеется связь 602 с его независимым от языка семантическим родителем для того, чтобы указать положение какого-либо заданного лексического значения в семантической иерархии 510.

[0072] Лексическое значение 612 в лексико-семантической иерархии 510 может быть соотнесено с поверхностной моделью 410, которая в свою очередь через одну или несколько диатез 417 может быть соотнесена с соответствующей глубинной моделью 512. Лексическое значение 612 может наследовать семантический класс своего родителя и уточнять свою глубинную модель 512.

[0073] Поверхностная модель 410 лексического значения может включать одну или несколько синтаксических форм 412. Синтформа 412 поверхностной модели 410 может включать одну или несколько поверхностных позиций 415, в том числе соответствующие описания их линейного порядка 416, одно или несколько грамматических значений 414, выраженных в виде набора грамматических категорий (граммем), одно или несколько семантических ограничений, соотнесенных с заполнителями поверхностных позиций, и одну или несколько диатез 417. Семантические ограничения, соотнесенные с определенным заполнителем поверхностной позиции, могут быть представлены в виде одного или более семантических классов, объекты которых могут заполнить эту поверхностную позицию.

[0074] На Фиг. 9 схематически иллюстрируются примеры структур данных, которые могут быть использованы в рамках одного или более методов настоящего изобретения. Снова ссылаясь на Фиг. 2, в блоке 214 вычислительное устройство, реализующее данный способ, может проводить лексико-морфологический анализ предложения 212 для построения лексико-морфологической структуры 722 согласно Фиг. 9. Лексико-морфологическая структура 722 может включать множество соответствий лексического и грамматического значений для каждой лексической единицы (например, слова) исходного предложения. На Фиг. 3 схематически иллюстрируется пример лексико-морфологической структуры.

[0075] В блоке 215 вычислительное устройство может проводить грубый синтаксический анализ исходного предложения 212 для построения графа обобщенных составляющих 732 согласно Фиг. 9. Грубый синтаксический анализ предполагает применение одной или нескольких возможных синтаксических моделей возможных лексических значений к каждому элементу множества элементов лексико-морфологической структ