Система управления и диспетчеризации контейнеров

Система управления и диспетчеризации контейнеров

Иллюстрации

Показать все

Реферат

ПЕРЕКРЕСТНАЯ ССЫЛКА НА РОДСТВЕННУЮ ЗАЯВКУ

[0001] Настоящая заявка заявляет приоритет в соответствии с совместно поданной заявкой на патент США №14/538,663, поданной 11 ноября 2014 года под названием «SYSTEM FOR MANAGING AND SCHEDULING CONTAINERS», которая включено в настоящий документ в полном объеме посредством ссылки.

УРОВЕНЬ ТЕХНИКИ

[0002] Стремясь снизить затраты и накладные расходы, связанные с поддержанием собственных вычислительных ресурсов, физические и юридические лица стали приобретать услуги дистанционных вычислений, такие как удаленное выполнение программы в нескольких экземплярах виртуальных машин и удаленное хранение данных, которые предоставляют клиентам поставщики служб вычислительных ресурсов. Такие услуги дистанционных вычислений часто являются настраиваемыми и масштабируемыми для удовлетворения различных вычислительных потребностей клиентов поставщика служб вычислительных ресурсов. Тем не менее, для клиента может представлять сложность управление различными приложениями, несколькими экземплярами виртуальных машин, и такие приложения могут быть непереносимыми в другие вычислительные системы или недостаточно масштабируемыми для удовлетворения растущих потребностей в ресурсах.

КРАТКОЕ ОПИСАНИЕ ГРАФИЧЕСКИХ МАТЕРИАЛОВ

[0003] Далее будут описаны варианты реализации настоящего изобретения со ссылкой на нижеследующие фигуры, на которых:

[0004] На Фиг. 1 проиллюстрирован пример клиента, взаимодействующего с контейнерной службой в соответствии с вариантом реализации изобретения;

[0005] На Фиг. 2 проиллюстрирован пример контейнерной службы в соответствии с вариантом реализации изобретения;

[0006] На Фиг. 3 проиллюстрирован пример виртуализации контейнерной службы в соответствии с вариантом реализации изобретения;

[0007] На Фиг. 4 проиллюстрирован пример экземпляра контейнера в соответствии с вариантом реализации изобретения;

[0008] На Фиг. 5 проиллюстрирован пример распределения ресурсов в экземпляре контейнера в соответствии с вариантом реализации изобретения;

[0009] На Фиг. 6 представлена блок-схема, иллюстрирующая пример рабочего процесса запуска задачи в кластере в соответствии с вариантом реализации изобретения;

[0010] На Фиг. 7 представлена блок-схема, иллюстрирующая пример создания кластера в соответствии с вариантом реализации изобретения;

[0011] На Фиг. 8 представлена блок-схема, иллюстрирующая пример регистрации экземпляра контейнера в соответствии с вариантом реализации изобретения;

[0012] На Фиг. 9 представлена блок-схема, иллюстрирующая пример регистрации задачи в соответствии с вариантом реализации изобретения;

[0013] На Фиг. 10 представлена блок-схема, иллюстрирующая пример запуска задачи в соответствии с вариантом реализации изобретения;

[0014] На Фиг. 11 представлена блок-схема, иллюстрирующая пример останова задачи в соответствии с вариантом реализации изобретения;

[0015] На Фиг. 12 представлена блок-схема, иллюстрирующая пример отмены регистрации задачи в соответствии с вариантом реализации изобретения;

[0016] На Фиг. 13 представлена блок-схема, иллюстрирующая пример отмены регистрации контейнера в соответствии с вариантом реализации изобретения;

[0017] На Фиг. 14 представлена блок-схема, иллюстрирующая пример удаления кластера в соответствии с вариантом реализации изобретения;

[0018] На Фиг. 15 проиллюстрирован пример построения системы управления и диспетчеризации контейнеров в соответствии с вариантом реализации изобретения; и

[0019] На Фиг. 16 проиллюстрирована среда, в которой могут быть реализованы различные варианты реализации изобретения.

ПОДРОБНОЕ ОПИСАНИЕ СУЩНОСТИ ИЗОБРЕТЕНИЯ

[0020] Далее будут описаны различные варианты реализации изобретения. Для целей объяснения далее приведены конкретные конфигурации и подробные сведения, чтобы обеспечить полное понимание вариантов реализации изобретения. Однако специалисту в данной области техники будет понятно, что варианты реализации изобретения могут быть применены на практике и без указания конкретных деталей. Кроме того, хорошо известные функции могут быть опущены или упрощены, чтобы не затруднять понимание описания.

[0021] Описанные и предложенные технологии включают системы и способы создания кластеров экземпляров программных контейнеров для выполнения программных контейнеров для клиентов поставщика служб вычислительных ресурсов. Экземпляры программных контейнеров могут быть экземплярами виртуальных машин, сконфигурированными для поддержки контейнеризации, и экземпляры программных контейнеров могут регистрироваться и отменять регистрацию в кластере по мере необходимости в соответствии с потребностями клиента. Каждый экземпляр программного контейнера может содержать агент контейнеров, который представляет собой приложение, выполненное с возможностью выполнения, при исполнении одним или большим количеством процессоров компьютерной системы, различных задач с программными контейнерами и экземплярами программных контейнеров, включая регистрацию экземпляров контейнеров, отмену регистрации экземпляров контейнеров, запуск задач, останов задач, предоставление задачам разных статусов, подачу сигналов об активности задач и сообщений о событиях задач. Программные контейнеры могут содержать данные и один или большее количество процессов, которые при выполнении в экземпляре компьютерной системы, выполненном с возможностью поддержки контейнеризации, могут быть отделены от других процессов, выполняемых в том же экземпляре компьютерной системы.

[0022] Программные контейнеры могут быть выполнены с возможностью выполнения в качестве задач в соответствии с определением задач, а определение задач может сохраняться в форме файла определения задач. Файл определения задач может описывать один или большее количество программных контейнеров, назначенных для запуска в качестве группы. Образы программного обеспечения программных контейнеров, которые могут представлять собой полную копию конкретного состояния программного контейнера на момент создания образа программного обеспечения, выполненные с возможностью выполнения в экземплярах программных контейнеров, могут предоставляться поставщику служб вычислительных ресурсов или в его местоположениях, указанных в определении задач. Определение задач также может определять потребности в ресурсах, отношения между контейнерами, используемые сетевые порты и совместно используемые ресурсы.

[0023] При получении запроса на запуск задач из определения задач планировщик может определить, в соответствии со схемой размещения, какие экземпляры программных контейнеров в кластере будут выполнять задачи. В некоторых случаях поставщик служб вычислительных ресурсов может предоставлять многопользовательский планировщик для определения того, где выполнять программные контейнеры, а в некоторых случаях поставщик служб вычислительных ресурсов может позволить клиентам обеспечивать и настраивать собственные планировщики для настройки работы планировщика. В некоторых случаях планировщик может быть выполнен с возможностью использования случайной схемы выбора для случайного (согласно некоторой схеме стохастического распределения) или циклического выбора экземпляра контейнера для размещения указанного программного контейнера, учитывая потребность в ресурсах, указанную в определении задач. Агенты контейнеров могут быть выполнены с возможностью запуска задач в соответствующих экземплярах программных контейнеров. В некоторых вариантах реализации изобретения агент телеметрии может быть выполнен с возможностью сбора данных, таких как метрики контрольной группы и информация о событиях из журнала о выполняемых программных контейнерах, и передачи этих данных службе телеметрии. Служба телеметрии может позволять клиентам контролировать состояния программных контейнеров в своих экземплярах контейнеров, и клиенты могут указывать, посредством службы телеметрии, какие действия следует выполнять в ответ на различные события контейнеров, и критерии для направления предупреждения на основе собранных данных.

[0024] Описанные и предложенные технологии представляют собой усовершенствования в области вычислительной техники, в частности, в областях виртуализации и контейнеризации, поскольку предлагают множество многопользовательских служб контейнеризации для управления программными контейнерами. Кроме того, описанные и предложенные технологии улучшают функционирование компьютерных систем, позволяя эффективно распределять ресурсы вычислительных систем и изолировать программные приложения таким образом, чтобы они не конкурировали между собой за ресурсы. Кроме того, описанные и предложенные технологии обеспечивают значимые преимущества по сравнению с общими системами виртуализации за счет повышения мобильности, предоставления многопользовательских служб и автоматического масштабирования ресурсов по мере увеличения или уменьшения спроса.

[0025] На Фиг. 1 проиллюстрирован аспект среды 100, в которой возможна практическая реализация варианта осуществления изобретения. Как показано на Фиг. 1, среда 100 может содержать клиента 102, который отправляет файл определения задач 104 для программных контейнеров 118 вместе с запросом на запуск задач по сети 106 контейнерной службе 108 поставщика служб вычислительных ресурсов 110. Планировщик, например планировщик 208 (как проиллюстрировано на Фиг. 2), может определить, в каком экземпляре контейнера 114 кластера 116 экземпляров контейнеров должны быть запущены программные контейнеры 118, указанные в файле определения задач 104. В некоторых вариантах реализации изобретения программные контейнеры могут быть выполнены с возможностью совместного использования ресурсов 120, предоставляемых другими службами 122 поставщика служб вычислительных ресурсов 110, таких как тома данных, предоставленные службой хранения данных на уровне блоков поставщика служб вычислительных ресурсов 110.

[0026] Клиент 102 может быть физическим лицом, связанным с учетной записью клиента контейнерной службы, или может быть физическим лицом, системой, ресурсом - вычислительным устройством или другим компонентом, уполномоченным действовать от имени физического лица, ассоциированного с учетной записью клиента. Кроме того, ресурсы клиента 102 могут быть доступными для других пользователей. Например, клиент 102 может использовать экземпляр контейнера 114 для создания онлайновой торговой площадки для других пользователей, которые, в свою очередь, могут покупать и/или продавать товары и услуги на указанной торговой площадке, предоставленной клиентом 102 посредством контейнерной службы. Клиент 102 может осуществлять связь с контейнерной службой 108 поставщика служб вычислительных ресурсов 110 по сети 106, которая может представлять собой сеть связи, такую как интернет, интранет-сеть, сеть поставщика услуг интернета (ISP) и/или какую-либо другую сеть, как описано ниже.

[0027] В некоторых примерах термины «определение задач» или «файл определения задач» могут относиться к файлу, определяющему множество связанных контейнеров (т.е. набор контейнеров, которые, при выполнении в вычислительной системе хоста, ассоциированы друг с другом), назначенных для запуска в качестве группы. Файл определения задач 104 может дополнительно указывать диск и местоположение в сети, которые могут совместно использовать в одной физической машине контейнеры 118. Файл определения задач 104 может затем использоваться для запуска множества контейнеров 118. В некоторых вариантах реализации изобретения файл определения задач 104 может определять и связывать контейнеры 118, распределенные по нескольким физическим машинам. Один файл определения задач 104 может содержать и планировать множество задач. В некоторых примерах термин «задача» может означать создание экземпляра файла определения задач 104, и задача может состоять из одного или большего количества контейнеров 118. Задачи могут быть изменены путем применения нового определения задач к задаче.

[0028] Файл определения задач 104 может содержать всю информацию, необходимую для размещения контейнеров 118 в кластере 116, а управление кластером 116 может осуществляться посредством вызовов через интерфейс прикладного программирования.

[0029] Пример определения задач может иметь следующий вид:

[0030] В данном примере определения задач указано, что первая задача под названием «db» имеет образ программного обеспечения, доступный по пути «forest/postgresql». Для выполнения первой задачи выделено 1000 общих вычислительных ресурсов процессора и 1 Гбайт памяти, также первая задача использует порт 5432. Аналогично, определение задач также определяет вторую задачу с названием «web», которая имеет образ программного обеспечения, доступный по пути Ошибка! Недопустимый объект гиперссылки.. Для выполнения второй задачи выделено 1000 общих вычислительных ресурсов процессора и 1 Гбайт памяти, также вторая задача использует порты 8000:8000. В определении задач указано, что второй задаче («web») разрешено устанавливать связь с первой задачей («db»). Следует отметить, что в то время как некоторые единицы измерения, используемые в данном примере, приведены в виде фиксированного значения, как, например, в случае представления вычислительной мощности в виде фиксированного числа общих вычислительных ресурсов центрального процессора, предполагается, что могут использоваться и другие единицы и типы значений (например, процент от общей вычислительной мощности или общего объема памяти) для обеспечения динамического распределения ресурсов.

[0031] Контейнерная служба 108 может представлять собой службу, предоставленную поставщиком служб вычислительных ресурсов 110, обеспечивающую клиенту 102 возможность выполнения контейнеров 118 в кластере 116. Контейнерная служба 108 может быть аналогична контейнерной службе 200, описанной со ссылкой на Фиг. 2. Поставщик услуг вычислительных ресурсов 110 может быть аналогичен поставщику служб вычислительных ресурсов 1502, описанный со ссылкой на Фиг. 15, и может предоставлять одну или большее количество служб вычислительных ресурсов своим клиентам по отдельности или в виде комбинации служб распределенной компьютерной системы. Одна или большее количество служб вычислительных ресурсов поставщика служб вычислительных ресурсов 110 могут быть доступны по сети 106 и могут включать в себя такие службы, как службы виртуальных компьютерных систем, службы хранения данных на уровне блоков, криптографические службы, службы хранения данных по требованию, службы уведомлений, службы аутентификации, службы управления политиками, службы задач и/или другие подобные службы. Не все описанные здесь варианты реализации изобретения охватывают все описанные службы, и дополнительные службы могут предоставляться в дополнение к описанным или вместо них.

[0032] Например, поставщик служб вычислительных ресурсов 110 может быть объектом, который предоставляет вычислительные ресурсы, такие как службы хранения данных, виртуальных компьютерных систем и/или веб-сервисы. Клиенты поставщика служб вычислительных ресурсов 110 могут взаимодействовать с одной или большим количеством служб через интерфейс, который может представлять собой интерфейс веб-служб или любой другой тип пользовательского интерфейса. Каждая служба, предоставляемая поставщиком служб вычислительных ресурсов, может иметь свой собственный интерфейс, а подмножества служб могут иметь соответствующие отдельные интерфейсы в дополнение к общему интерфейсу или в качестве альтернативы ему.

[0033] В некоторых примерах термин «экземпляр контейнера» может относиться к экземпляру компьютерной системы (виртуальной или невиртуальной, такой как физическая компьютерная система, работающая под управлением операционной системы), выполненному с возможностью запуска и выполнения программных контейнеров. Таким образом, экземпляр контейнера 114 может быть выполнен с возможностью выполнения контейнеров 118 в соответствии с файлом определения задач 104, предоставленным клиентом 102. Один или большее количество экземпляров контейнеров могут составлять кластер. В некоторых примерах термин «кластер» может относиться к множеству, состоящему из одного или большего количества экземпляров контейнеров, которые были зарегистрированы в кластере (т.е. ассоциированы с ним). Таким образом, экземпляр контейнера 114 может быть одним из множества различных экземпляров контейнеров, зарегистрированных в кластере 116, а другие экземпляры контейнеров кластера 116 могут быть выполнены с возможностью выполнения одинаковых или различных типов контейнеров, таких как контейнеры 118. Экземпляры контейнеров в кластере могут относиться к разным или одинаковым типам экземпляров, и у клиента 102 может быть больше одного кластера. Таким образом, клиент 102 может запускать один или большее количество кластеров, а затем управлять изоляцией пользователей и приложений контейнеров 118 в каждом кластере посредством вызовов через интерфейс прикладного программирования. Более подробная информация о кластерах приведена в описании Фиг. 2.

[0034] Контейнер (также называемый программным контейнером или изолированным экземпляром пространства пользователя) может быть облегченным экземпляром виртуализации под управлением экземпляра компьютерной системы, содержащего программы, данные и системные библиотеки. При выполнении контейнера исполняющая программа (т.е. процесс) изолирована от других процессов, выполняемых в том же экземпляре компьютерной системы. Таким образом, каждый из контейнеров 118 может выполняться в операционной системе (например, с использованием памяти, центрального процессора и памяти, выделенной операционной системой) экземпляра контейнера 114, отдельно от других (например, каждый контейнер может иметь изолированный вид файловой системы операционной системы). Каждый из контейнеров 118 может иметь свое собственное пространство имен, а приложения, работающие в контейнерах 118, изолированы путем предоставления им доступа только к ресурсам, доступным в пространстве имен контейнера. Таким образом, контейнеры 118 могут представлять собой эффективный способ выполнения одного или большего количества отдельных приложений в собственном пространстве имен. Система инкапсуляции контейнеров позволяет одному или большему количеству контейнеров выполняться в одном операционном экземпляре без накладных расходов, связанных с запуском и поддержанием виртуальных машин для выполнения отдельных экземпляров пользовательского пространства. Примером системы инкапсуляции контейнеров является Docker-движок контейнеров.

[0035] Контейнеры 118 могут запускаться только с определенными ресурсами из выделенных экземпляру контейнера 114; т.е. контейнер может запускаться с определенным объемом памяти и без возможности использования большей, чем указанное количество, вычислительной мощности. Распределение ресурсов среди контейнеров 118 может быть определено в файле определения задач 104. Возможно одновременное выполнение нескольких контейнеров на одном хост-компьютере или в одном экземпляре хост-контейнера, и ресурсы хоста могут эффективно распределяться между контейнерами. В некоторых вариантах реализации изобретения хост может поддерживать выполнение контейнеров в экземплярах контейнеров только одного клиента. В других вариантах реализации изобретения один хост может разрешать нескольким клиентам иметь экземпляры контейнеров, выполняемые в хосте. В последнем случае контейнерная служба может обеспечивать безопасность таким образом, что клиенты не будут иметь доступ к «чужим» контейнерам, кластерам или экземплярам контейнеров.

[0036] Различные типы задач могут предъявлять разные требования к ресурсам и могут иметь различную продолжительность. Таким образом, служба планировщика в контейнерной службе 110 может динамически планировать выполнение контейнеров 118 независимо от базовой операционной системы экземпляра контейнера, и, как таковая, базовая операционная система экземпляра контейнера 114 может быть очень простой. В альтернативном варианте планирование выполнения контейнеров 118 может осуществляться планировщиком, установленным внутри экземпляра контейнера 114 кластера 116.

[0037] Другие службы 122 могут быть, например, службами 1508-20 и 1524 поставщика служб вычислительных ресурсов 1502, описанного со ссылкой на Фиг. 15. Аналогично, другие ресурсы 120 могут включать в себя ресурсы, которые могут совместно использоваться виртуализированными экземплярами, например, объем памяти службы хранения данных на уровне блоков.

[0038] На Фиг. 2 проиллюстрирован пример контейнерной службы 200 варианта реализации настоящего изобретения. Как показано на Фиг. 2, среда 200 может содержать клиентов 202 поставщика служб вычислительных ресурсов, осуществляющих связь через интерфейсную службу 204, управляющую одним или большим количеством контейнеров в одном или большем количестве экземпляров контейнеров 218. Как уже отмечалось, система инкапсуляции контейнеров, обеспеченная контейнерной службой 200 или связанная с ней интерфейсом, может позволить клиенту настроить одно или большее количество приложений в контейнере операционной системы, которая поддерживает контейнеры. Выполняемые процессы и ресурсы внутри контейнера могут быть изолированы от других процессов экземпляра родительского контейнера и от выполняемых процессов и ресурсов в других контейнерах той же хост-системы. Клиент может указать объем памяти и вычислительную мощность, выделенные контейнеру. Базовый контейнер, приложения и данные в нем затем могут быть упакованы в виде образа, содержащего одну или большее количество программ, данных и любых системных зависимостей (например, библиотеки, файлы и т.д.), которые необходимы для выполнения программ в операционной системе экземпляра контейнера. В некоторых примерах термин «образ» может относиться ко всей копии конкретного состояния базового контейнера на момент создания образа. Затем образ может использоваться для запуска одного или большего количества одинаковых контейнеров, каждому из которых может быть назначено определенное количество ресурсов и которые могут быть изолированы друг от друга. Контейнеры могут запускаться в одной и той же или разных физических машинах. При этом ожидается, что каждый контейнер будет выполняться так же, как и базовый контейнер.

[0039] Каждый из экземпляров контейнеров 218 может быть сконфигурирован с возможностью включения пары агентов, агента контейнеров 222 и агента телеметрии 224, которые могут позволить управлять контейнерами, предоставлять информацию о состоянии кластера, а также обеспечивать возможность ведения журнала и сбора данных телеметрии. Контейнерная служба 200 может состоять из множества служб, включая службу шаблонов 206, один или большее количество планировщиков 208, службу маршрутизатора 210 и службу телеметрии 212. Поскольку контейнерная служба 200 может быть выполнена в виде многопользовательской службы (т.е. ресурсы контейнерной службы 200 могут обслуживать несколько клиентов одновременно), и поскольку службы, предоставляемые контейнерной службой 200, существуют вне и отдельно от экземпляров контейнеров 218, клиентам 202 не нужно устанавливать отдельные программные приложения в их соответствующих экземплярах контейнеров 218, чтобы обеспечить функциональные возможности, предоставляемые службами. Клиенты 202 могут использовать функциональные возможности, предоставляемые этими службами, осуществляя вызовы функций через интерфейс прикладного программирования веб-сервиса через интерфейсную службу 204, которая может быть выполнена с возможностью получения запросов от клиентов 202 и направления этих запросов соответствующим службам, таким как соответствующая серверная служба менеджера контейнеров 214.

[0040] Как уже отмечалось, клиент может запускать один или большее количество кластеров, а затем управлять изоляцией пользователей и приложений в каждом кластере с помощью интерфейсной службы 204. Например, клиент может указать, что «экземпляры 1-10» должны составлять первый кластер, а «экземпляры 11-15» - второй кластер. После этого, когда клиент направляет запрос на запуск контейнера, клиент может указать, в каком кластере должен запускаться контейнер: в первом или во втором.

[0041] Каждый кластер может иметь идентификатор кластера (ID), который однозначно отличает кластеры друг от друга. Кластеры могут быть определены путем ссылки на их соответствующие идентификаторы. Клиент может использовать разные кластеры для различных типов задач. Например, клиент может использовать первый кластер для запуска служб, а второй - для выполнения пакетных заданий. Экземпляры в первом кластере могут быть оптимизированы для работы сервера, а экземпляры второго сервера могут быть оптимизированы для выполнения кратковременных заданий, таких как пакетные задания.

[0042] Доступные вызовы функций через интерфейс прикладного программирования для кластеров могут включать: CreateCluster (Создать кластер), DescribeCluster (Описать кластер), ListClusters (Перечислить кластеры) и DeleteCluster (Удалить кластер). Вызов через интерфейс прикладного программирования CreateCluster (Создать кластер) может приводить к созданию кластера. В некоторых случаях после создания кластера интерфейсная служба 204 может предоставить клиенту идентификатор вновь созданного кластера. Идентификатор кластера может позволить клиенту зарегистрировать экземпляры контейнеров в кластере; например, клиент может обеспечить регистрацию экземпляра контейнера в кластере путем передачи идентификатора кластера в качестве параметра вызову RegisterContainerInstance (Зарегистрировать экземпляр контейнера) через интерфейс прикладного программирования. В дополнительном или альтернативном варианте клиент может указать один или большее количество существующих экземпляров контейнеров, принадлежащих клиенту, в качестве параметров вызова CreateCluster (Создать кластер) через интерфейс прикладного программирования, чтобы обеспечить регистрацию одного или большего количества существующих экземпляров контейнеров в кластере при его создании. Кроме того, в некоторых случаях клиент может указать в параметрах вызова CreateCluster (Создать кластер) через интерфейс прикладного программирования количество экземпляров контейнеров, которые необходимо создать и зарегистрировать в кластере после его создания. Вызов функции CreateCluster (Создать кластер) через интерфейс прикладного программирования дополнительно проиллюстрирован на Фиг. 7.

[0043] После того, как кластер будет создан и начнет работать, вызов DescribeCluster (Описать кластер) через интерфейс прикладного программирования может использоваться клиентами 202 или приложениями для запроса информации о кластере. Сведения, предоставляемые в ответ на вызов DescribeCluster (Описать кластер) через интерфейс прикладного программирования, могут включать список приложений, выполняемых в кластере, доступные в кластере ресурсы и их типы. Информация, возвращаемая вызовом DescribeCluster (Описать кластер) через интерфейс прикладного программирования, может затем использоваться в качестве параметров для вызова StartTask (Начать задачу) через интерфейс прикладного программирования для запуска задачи в описанном кластере.

[0044] Планировщик 208 может быть выполнен с возможностью запуска задач в описанном кластере. С другой стороны, клиенты 208 могут реализовать свой собственный планировщик вместо планировщика 208 и использовать информацию, получаемую с помощью вызова DescribeCluster (Описать кластер) через интерфейс прикладного программирования, в сочетании с логикой размещения планировщика клиента для принятия решений по размещению запланированных задач. Клиент может разработать и/или загрузить алгоритм размещения, используемый его собственным планировщиком, или может выбрать из списка возможных алгоритмов размещения, предоставленных клиенту поставщиком служб вычислительных ресурсов. Контейнерная служба 200 может определить, исходя из имеющихся ресурсов, следует ли принять или отклонить решения по размещению, принятые планировщиком клиента.

[0045] Планировщик 208 может быть многопользовательской службой, выполненной с возможностью оптимального планирования множества задач для их выполнения в кластере. Таким образом, клиентам 202 не нужно выбирать, где должны выполняться задачи. Схема размещения планировщика 208 может быть выполнена с возможностью равномерного распределения задач по кластеру (например, циклическая, стохастическая схема распределения и т.д.) и может быть выполнена с возможностью распределения задач на основе текущего или прогнозируемого потребления ресурсов кластером, чтобы наиболее эффективно использовать имеющиеся ресурсы. Планировщик 208 может получить метаданные менеджера кластеров и другую информацию о наличии экземпляров контейнеров 218 в кластере через серверные службы менеджера контейнеров 214. Метаданные менеджера кластеров и другая информация могут содержать данные о текущем состоянии экземпляров контейнеров 218, присвоенных кластеру, имеющихся ресурсах в экземплярах контейнеров, контейнерах, выполняемых в экземплярах контейнеров, а также другую информацию, используемую планировщиком 208 для принятия решений по размещению. Вызов DescribeCluster (Описать кластер) через интерфейс прикладного программирования может привести к тому, что серверная служба менеджера кластеров предоставит метаданные для указанного кластера.

[0046] Планировщик 208 может распределять задачи, по меньшей мере частично, на основе правил безопасности, групп безопасности и/или ролей безопасности, наличия сродства или отсутствия сродства. Например, задачи в определенной группе безопасности могут быть настроены для запуска в одном и том же экземпляре контейнера, если это возможно или целесообразно, либо, наоборот, могут быть запланированы для запуска в отдельных экземплярах контейнеров. В другом примере задачи могут быть присвоены определенным группам безопасности или назначены таким образом, чтобы иметь определенные роли безопасности, и, основываясь на такой группе или роли безопасности, задача может быть назначена для выполнения в конкретном кластере или конкретных экземплярах кластеров, либо может иметь приоритет в использовании ресурсов по сравнению с другими задачами. Распределение задач на основе сродства/отсутствия сродства включает назначение «меток», указывающих отношения между контейнерами, экземплярами контейнеров и задачами. В качестве примера распределения, по меньшей мере частично, на основе сродства: два экземпляра контейнера могут быть помечены как «общие», а один экземпляр контейнера может быть помечен как «база данных». В определении задач задача может быть указана с ограничением на запуск «общий», обеспечивающим сродство, состоящее в том, что данная задача должна быть запущена в одном (или большем количестве) экземпляров контейнеров с тегом «общий». В качестве примера распределения задач на основе отсутствия сродства: некоторые экземпляры контейнеров могут быть помечены как «безопасный для обработки кредитных карт», и другой экземпляр контейнера может быть помечен как «http-сайт». Поскольку контейнеры «http-сайт» могут обслуживать трафик от недоверенных сторонних объектов, может быть нежелательно использовать такие контейнеры совместно с задачами обработки кредитных карт. Таким образом, определение задач может быть составлено таким образом, чтобы указывать на отсутствие сродства «http-сайта» с задачами обработки кредитных карт и гарантировать то, что контейнеры для обработки кредитных карт не будут запускаться в экземплярах контейнеров с тегом «http-сайт». В этом примере, планировщик 208 может быть сконфигурирован с возможностью анализа произвольных тегов в определении задач и использования их для того, чтобы отфильтровать экземпляры контейнеров, которые не отвечают критериям, связанным с тегом. Далее планировщик 208 может выбрать экземпляр контейнера из отфильтрованного множества для размещения контейнера.

[0047] В некоторых вариантах реализации изобретения планировщик 208 может связываться напрямую с агентами контейнеров 222 для запуска задач. В других вариантах реализации изобретения планировщик 208 может осуществлять связь со службами связи с агентами 220, которые затем могут передавать сообщение агенту контейнеров 222. В других вариантах реализации изобретения планировщик 208 может сообщать решения о размещении серверным службам менеджера контейнеров 214, который может передавать сообщение непосредственно агенту контейнеров 222 или службам связи с агентами 220. Как уже отмечалось, в некоторых вариантах реализации изобретения клиенты 202 могут реализовывать свои собственные планировщики для управления задачами вместо использования планировщика 208.

[0048] В некоторых случаях контейнеры могут быть выполнены с возможностью конкуренции за ресурсы и, в случае конфликта, контейнеры, ассоциированные с определенными ролями безопасности, могут иметь приоритет над другими контейнерами. Следует обратить внимание на то, что во всех случаях схема размещения может учитывать имеющиеся ресурсы в экземплярах контейнеров и потребности в ресурсах контейнера. Например, экземпляр контейнера не может быть выбран для конкретных задач, если потребности в ресурсах этих задач превышают ресурсы, доступные в экземпляре контейнера. Однако в некоторых вариантах реализации изобретения экземпляр контейнера может быть все же выбран, но запуск конкретных задач может быть отложен до тех пор, пока не будет доступно достаточно ресурсов в экземпляре контейнера для поддержки выполнения конкретных задач.

[0049] Контейнеры также могут быть сконфигурированы для использования других ресурсов, предоставляемых поставщиком служб вычислительных ресурсов. Например, каждый контейнер может быть выполнен с виртуальным сетевым интерфейсом, чтобы позволить контейнеру осуществлять связь по виртуальной сети с другими контейнерами и/или другими ресурсам поставщика служб вычислительных ресурсов. Кроме того, учетные данные безопасности могут назначаться для каждого контейнера, так что контейнеры будут иметь свои собственные учетные данные безопасности для доступа к другим ресурсам, предоставляемым поставщиком служб вычислительных ресурсов. Кроме того, контейнерная служба может быть сконфигурирована с возможностью интеграции со службой балансировки нагрузки для равномерного распределения нагрузки в контейнерах. Например, клиент может предоставить список адресов интернет-протокола, связанных с виртуальными сетями контейнеров клиента и/или экземпляров клиента средству балансировки нагрузки службы балансировки нагрузки и проинструктировать средство балансировки нагрузки, чтобы оно сбалансировало рабочую нагрузку между адресами интернет-протокола. Кроме того, контейнерная служба может быть интегрирована с сервисом автоматического масштабирования, чтобы обеспечить возможность динамического изменения ресурсов, используемых контейнерами, по мере необходимости.

[0050] Например, клиент может реализовать несколько планировщиков для одного кластера, которые будут определять, для каких экземпляров в кластере запускать контейнеры. Множество планировщиков могут конкурировать друг с другом в соответствии со схемой размещения, например, с использованием оптимистического контроля совпадений для определения местоположений запуска контейнеров. Например, каждый планировщик, используя оптимистические совпадения, может предположить, что, в целом, контейнеры не будут мешать друг другу, и в ситуации, когда один контейнер имеет измененные данные, считанные другим контейнером, осуществляющий считывание контейнер может перезапуститься и повторно считать измененные данные.

[0051] В некоторых случаях конфигурация планировщика может быть направлена на максимизацию имеющихся ресурсов. Например, кластер может использоваться в основном для выполнения долгосрочных служб, но может возникать необходимость в выполнении одного или большего количества краткосрочных пакетных заданий. В этом примере планировщи