Масштабирование экземпляра виртуальной машины

Иллюстрации

Показать все

Изобретение относится к методикам для масштабирования вычислительных ресурсов. Технический результат заключается в том, чтобы позволить экземпляру виртуальной машины наращиваться или сокращаться в размере и функциональных возможностях по требованию или согласно фактическому спросу на ресурсы, которые предоставляет виртуальная машина. Для этого используется служба масштабирования, которая выделяет дополнительные вычислительные ресурсы (например, процессоры, память и т.д.) экземпляра виртуальной машины (или другого вычислительного экземпляра) и/или освобождает вычислительные ресурсы из экземпляра виртуальной машины согласно запросам и/или пороговым величинам. 2 з.п. ф-лы, 7 ил.

Реферат

УРОВЕНЬ ТЕХНИКИ ИЗОБРЕТЕНИЯ

[0001] Поскольку все больше приложений и услуг становятся доступными через такие сети, как Интернет, все больше поставщиков содержимого, приложений и/или услуг переходят на такие технологии, как облачное вычисление. Облачное вычисление, в целом, является подходом к предоставлению доступа к электронным ресурсам через такие службы, как Веб-службы, при которых аппаратное обеспечение и/или программное обеспечение, используемые для поддержания таких услуг, являются динамически масштабируемыми для удовлетворения потребностей в услугах в любой момент времени. Пользователь или потребитель обычно арендуют, берут в наем или иным образом оплачивают доступ к ресурсам через облако, и таким образом не должны покупать и обслуживать необходимое аппаратное и/или программное обеспечение.

[0002] В данном контексте многие поставщики облачных вычислений используют виртуализацию для разрешения множеству пользователей совместно использовать исходные аппаратные и/или программные ресурсы. Виртуализация может разрешить осуществлять разделение вычислительных серверов, запоминающих устройств или других ресурсов на множество изолированных экземпляров, которые связаны (например, принадлежат) с конкретным пользователем. Поставщик облачных вычислений обычно назначает одну или большее количество виртуальных машин каждому из своих потребителей, и данные виртуальные машины используются для исполнения приложений и/или другой рабочей нагрузки для таких потребителей. Однако может возникать множество проблем и неудобств, когда процессорная нагрузка потребителя начинает превышать функциональные возможности виртуальных машин вследствие увеличения спроса или других причин.

КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ

[0003] Различные варианты осуществления в соответствии с настоящим раскрытием будут описываться со ссылкой на чертежи, на которых:

[0004] На Фиг. 1 изображен пример расширения экземпляра виртуальной машины посредством выделения дополнительного CPU в соответствии с различными вариантами осуществления;

[0005] На Фиг. 2 изображен пример службы автоматического масштабирования, развернутой поставщиком услуг, в соответствии с различными вариантами осуществления;

[0006] На Фиг. 3A изображен примерный процесс для автоматического масштабирования экземпляра виртуальной машины на машине размещения, в соответствии с различными вариантами осуществления;

[0007] На Фиг. 3B изображен примерный процесс масштабирования экземпляра виртуальной машины в ответ на прием запроса от пользователя в соответствии с различными вариантами осуществления;

[0008] На Фиг. 4 изображен примерный процесс для автоматического масштабирования экземпляра виртуальной машины и выделения дополнительных экземпляров виртуальных машин в соответствии с различными вариантами осуществления;

[0009] На Фиг. 5 изображена логическая компоновка набора общих компонентов примерного вычислительного устройства, которое может быть использовано в соответствии с различными вариантами осуществления; и

[0010] На Фиг. 6 изображен пример окружения для реализации некоторых аспектов в соответствии с различными вариантами осуществления.

ПОДРОБНОЕ ОПИСАНИЕ

[0011] В последующем описании различные варианты осуществления будут изображены в качестве примера, а не в качестве ограничения, на фигурах сопроводительных чертежей. Ссылки на различные варианты осуществления в данном раскрытии не обязательно относятся к одному и тому же варианту осуществления, и такие ссылки означают по меньшей мере один. Хотя обсуждаются конкретные варианты реализации и другие подробности, следует понимать, что это делается только в иллюстративных целях. Специалисту в соответствующей области техники должно быть понятно, что без отступления от объема и сущности заявляемого объекта изобретения могут использоваться другие компоненты и конфигурации.

[0012] Системы и способы в соответствии с различными вариантами осуществления настоящего раскрытия могут преодолевать один или большее количество из известных или других недостатков, возникающих при традиционных подходах к масштабированию вычислительных ресурсов. В частности, различные варианты осуществления обеспечивают подходы для автоматического выделения дополнительных вычислительных ресурсов (например, процессоров, запоминающих устройств, сетевых устройств и т.д.) экземпляру виртуальной машины и/или освобождению вычислительных ресурсов из экземпляра виртуальной машины согласно различным задаваемым пользователем пороговым величинам или запросам пользователя. Фактически это позволяет экземпляру виртуальной машины «наращиваться» или «сокращаться» в размере и функциональных возможностях по требованию или согласно фактическому спросу на ресурсы, которые предоставляет виртуальная машина.

[0013] В соответствии с различными вариантами осуществления один такой подход может быть реализован поставщиком услуг окружения с совместно используемыми вычислительными ресурсами (например, поставщиком вычислений в «облаке»), который размещает (посредством хостинга) приложения и экземпляры виртуальных машин от имени своих потребителей. Приложения и экземпляры виртуальных машин размещаются на физических ресурсах (например, серверах размещения и других сетевых ресурсах), принадлежащих и управляемых поставщиком услуг. В соответствии с одним вариантом осуществления поставщик услуг принимает образ виртуальной машины от потребителя и предоставляет один или большее количество экземпляров виртуальных машин для потребителя по меньшей мере частично на основе образа виртуальной машины. Затем эти экземпляры виртуальных машин могут исполнять различные приложения и/или другие службы потребителя с использованием физических вычислительных ресурсов поставщика услуг.

[0014] В соответствии с одним вариантом осуществления каждый экземпляр виртуальной машины предоставляется на машине размещения (хост-машине) (например, вычислительном устройстве). Каждая машина размещения может размещать один или большее количество экземпляров виртуальных машин. По меньшей мере в одном варианте осуществления машина размещения дополнительно включает гипервизор и слой размещения служб, который предоставляет доступ к управляющим аппаратными устройствами программам (драйверам) машины размещения и предоставляет упомянутым одному или большему количеству экземпляров виртуальных машин возможность осуществления доступа к устройствам напрямую или через виртуализированную абстракцию.

[0015] В соответствии с одним вариантом осуществления после того, как экземпляр виртуальной машины был предоставлен на машине размещения, поставщик услуг может принять от потребителя (например, через интерфейс (API) прикладного программирования) запрос на выделение дополнительных ресурсов экземпляру виртуальной машины или освобождение ресурсов из этого экземпляра. Кроме того, API может разрешить потребителю устанавливать одну или большее количество задаваемых потребителем пороговых величин для экземпляра виртуальной машины, имеющих отношение к различным функциональным метрикам исходных ресурсов, таким как использование CPU. Кроме того, потребителю предоставляется возможность задавать различные функциональные метрики времени выполнения, связанные с их службой или приложением, которые могут относиться к решению о масштабировании экземпляра виртуальной машины. Эти функциональные метрики и пороговые величины могут разрешить потребителю указывать условия, при которых ресурсы, выделяемые экземпляру виртуальной машины, должны быть расширены или сокращены.

[0016] В соответствии с одним вариантом осуществления служба в системе поставщика услуг наблюдает за функциональными метриками в ходе использования экземпляра виртуальной машины. В том же самом или альтернативном варианте осуществления такая служба может принимать функциональные метрики от гостевого агента, используемого в экземпляре виртуальной машины. Следовательно, функциональные метрики могут генерироваться из сервера и/или из экземпляра виртуальной машины. В экземпляре, в котором упомянутая служба обнаруживает, что одна или большее количество метрик превысили пороговую величину, такую как заданная потребителем пороговая величина, в течение предварительно определенного промежутка времени, может инициироваться расширение или сокращение экземпляра виртуальной машины посредством добавления или удаления ресурсов (например, центральных блоков (CPU) обработки, запоминающих устройств, других аппаратных устройств). Например, если упомянутая служба обнаруживает, что экземпляр виртуальной машины функционировал при более чем 90% от функциональных возможностей CPU в течение по меньшей мере 10 секунд за прошедший час, то она может выделить дополнительные функциональные возможности CPU упомянутому экземпляру виртуальной машины (например, назначить дополнительные CPU или ядра CPU, переключиться на более мощный CPU и т.д.). В качестве другого примера, если упомянутая служба обнаруживает, что экземпляр виртуальной машины функционировал при меньше чем 10% от функциональных возможностей CPU в течение установленного периода времени, то она может освободить (например, уменьшить) некоторый объем функциональных возможностей CPU экземпляра виртуальной машины. В некоторых вариантах осуществления масштабирование экземпляра виртуальной машины может выполняться автоматически, не требуя никакого ручного участия со стороны потребителя. В других вариантах осуществления масштабирование экземпляра виртуальной машины может выполняться в ответ на прием запроса на масштабирование экземпляра от пользователя (например, владельца виртуальной машины).

[0017] В соответствии с одним вариантом осуществления расширение экземпляра виртуальной машины может производиться автоматически, пока одиночный экземпляр виртуальной машины еще может в достаточной мере поддерживать рабочую нагрузку потребителя. Как только данный предел достигнут, упомянутая служба может начать автоматически назначать дополнительные экземпляры виртуальных машин для обработки рабочей нагрузки. Кроме того, упомянутая служба может продолжать автоматически расширять или сокращать каждый из дополнительных экземпляров VM для удовлетворения изменяющемуся спросу по описанному ранее принципу. В некоторых вариантах осуществления функциональные метрики и задаваемые пользователем пороговые величины могут, частично, включать требования к избыточности, доступности, продолжительности функционирования или им подобному, чтобы могло происходить «горизонтальное масштабирование» на множество VM, размещенных на различных физических серверах, даже если у одного сервера достаточно ресурсных возможностей для удовлетворения других требований к ресурсам, таких как конкретное количество CPU или RAM.

[0018] В соответствии с различными вариантами осуществления управление расширением (или сокращением) экземпляров VM внутри устройства размещения может выполняться посредством использования основанного на Веб-технологиях графического пользовательского интерфейса (GUI), задаваемых потребителем пороговых величин или полностью автоматических логических решений в замкнутом контуре измерений/действий. Данное автоматическое масштабирование может задействовать несколько моделей тарификации и/или оплаты. Например, с потребителя может взиматься плата за универсальный масштабируемый экземпляр VM, который оплачивается за ГГц⋅час (или другой предварительно определенный период времени) и/или Гбайт в час из RAM, выделяя отдельные ресурсы машины (CPU, RAM, сеть) и взимая плату в дифференциальной форме и т.п.

[0019] В различных вариантах осуществления Веб-службы могут использоваться для разрешения пользователю (например, потребителю) запрашивать масштабирование экземпляров виртуальных машин или устанавливать различные пороговые величины, которые управляют тем, когда данные экземпляры VM будут наращиваться или сокращаться относительно функциональных возможностей ресурсов. Веб-службы могут включать API как Запросов (Query), так и простого протокола (SOAP) доступа к объектам. Следует отметить, однако, что Веб-службы не ограничиваются основанными на SOAP API-вызовами и могут включать любое удаленное исполнение процедур/функций/способов, выполняемое с использованием сети, такой как Интернет.

[0020] В различных вариантах осуществления поставщиком услуг может быть развернута веб-служба, которая предоставляет вычислительные функциональные возможности изменяемого размера (например, дополнительные экземпляры сервера в центре ресурсов). Данные вычислительные функциональные возможности могут использоваться для построения и размещения программных систем потребителя. Поставщик услуг может предоставлять доступ к этим ресурсам с использованием API или веб-инструментов и обслуживающих программ. Пользователи могут таким образом осуществлять доступ к функциональным средствам API, которые открыты поставщиком услуг, для добавления или удаления ресурсов, масштабирования на основе метрик, избыточности, доступности и им подобного.

[0021] На Фиг. 1 изображен пример 100 расширения экземпляра виртуальной машины посредством выделения дополнительного CPU, Виртуальных CPU (VCPU), Физических CPU (PCPU), ядер физического CPU или его составляющих, и в данном документе в целом называемых в качестве «CPU», в соответствии с различными вариантами осуществления. В изображенном варианте осуществления вычислительное устройство 101 размещения включает гипервизор 102, который управляет экземплярами 103 и 104 виртуальных машин. Гипервизор 102 управляет исполнением упомянутых одной или большим количеством гостевых операционных систем и позволяет множеству экземпляров различных операционных систем совместно использовать исходные аппаратные ресурсы. Традиционно, гипервизоры устанавливаются в серверном аппаратном обеспечении, с функцией задействования гостевых операционных систем, причем сами гостевые операционные системы действуют в качестве серверов. В различных вариантах осуществления может присутствовать по меньшей мере два типа гипервизора 102: гипервизор 1-го типа (исполняемый на «голом железе»); и гипервизор 2-ого типа (размещенный). Гипервизор 1-ого типа функционирует напрямую на аппаратных ресурсах и руководит и управляет одной или большим количеством гостевых операционных систем, которые функционируют поверх гипервизора. Гипервизор 2-ого типа исполняется внутри операционной системы и размещает одну или большее количество гостевых операционных систем концептуально на третьем уровне над аппаратными ресурсами. Любой тип гипервизора может быть реализован в соответствии с вариантами осуществления, описанными в данном документе. Гипервизор 102 может размещать некоторое количество доменов (например, виртуальных машин), таких как главный домен (или сервисный слой или слой виртуализации и т.п.) и один или большее количество гостевых доменов. В одном варианте осуществления главный домен (например, Dom-0) является первым созданным доменом и помогает управлять всеми аппаратными устройствами и другими доменами, функционирующими на гипервизоре 102. Например, главный домен может управлять созданием, уничтожением, переходом, сохранением или восстановлением одного или большего количества гостевых доменов (например, Dom-U). В соответствии с различными вариантами осуществления гипервизор 102 управляет доступом к аппаратным ресурсам, таким как CPU, запоминающее устройство ввода/вывода (I/O) и запоминающее устройство гипервизора. В изображенном варианте осуществления гипервизор 102 включает службу 114 автоматического масштабирования, которая выполняет масштабирование экземпляра виртуальной машины посредством выделения или освобождения ресурсов в отношении экземпляра виртуальной машины. Альтернативно, служба масштабирования может находиться в Dom-0 или вовне по отношению к вычислительному устройству размещения, и вычислительное устройство размещения может включать тонкого агента для исполнения команд, принимаемых от внешней службы масштабирования.

[0022] В соответствии с одним вариантом осуществления аппаратные ресурсы вычислительного устройства 101 размещения включают физическое запоминающее устройство 116, один или большее количество центральных блоков (CPU) (107, 108, 109, 110) обработки и любые другие аппаратные ресурсы или устройства 111. Физическое запоминающее устройство 116 может включать любое устройство хранения данных, включающее, без ограничения, твердотельные накопители (SSD), запоминающее устройство (HDD) на магнитных дисках, запоминающее устройство (RAM) с произвольным доступом и т.п. В различных вариантах осуществления другие аппаратные ресурсы 111 могут включать, без ограничения, контроллер (NIC) сетевого интерфейса, блок (GPU) графической обработки, периферийные устройства ввода/вывода (I/O) и т.п.

[0023] В соответствии с одним вариантом осуществления каждый экземпляр (103, 104) виртуальной машины может быть связан по меньшей мере с одним пользователем 112, 113 (например, потребителем поставщика услуг). Каждый экземпляр виртуальной машины может исполнять по меньшей мере одно приложение (105, 106) или другую службу от имени пользователя. В соответствии с изображенным вариантом осуществления экземпляру 103 виртуальной машины назначается набор из одного или большего количества CPU (например, 107 и 108), а экземпляру 104 виртуальной машины назначается другой набор CPU (например, 110). В различных вариантах осуществления CPU могут быть фактическими физическими CPU или, альтернативно, могут быть функциональными возможностями виртуального CPU, которые назначаются виртуальной машине.

[0024] В различных вариантах осуществления пользователям (112, 113) разрешено задавать одно или большее количество значений пороговых величин для различных функциональных метрик, связанных с их виртуальными машинами. Как изображено на фигуре, когда нагрузка обработки в приложении 105, исполняющемся в экземпляре 103 виртуальной машины, превышает такую предварительно определенную пороговую величину, система может выделить дополнительный CPU 109 экземпляру 103 виртуальной машины, чтобы удовлетворить возросший спрос. Схожим образом, когда нагрузка обработки уменьшается, система может уменьшить функциональные возможности CPU, назначенные экземпляру 103 виртуальной машины.

[0025] В альтернативном варианте осуществления масштабирование экземпляра виртуальной машины может быть выполнено после приема запроса от потребителя на увеличение или уменьшение объема ресурсов, выделяемых экземпляру виртуальной машины. Например, потребитель может задействовать API, предоставляемый поставщиком услуг, и запросить у поставщика услуг выделить дополнительные функциональные возможности CPU экземпляру виртуальной машины. В ответ на прием запроса служба 114 масштабирования может выделить дополнительные функциональные возможности CPU виртуальной машине.

[0026] В соответствии с различными вариантами осуществления система может также масштабировать экземпляры (103, 104) виртуальной машины посредством выделения или освобождения запоминающего устройства 116 и/или других аппаратных ресурсов (например, NIC, функциональные возможности GPU и т.д.). Например, если экземпляр 103 виртуальной машины приближается к 90% функциональных возможностей запоминающего устройства, система может выделить дополнительное запоминающее устройство (например, физическое запоминающее устройство, виртуальное запоминающее устройство) экземпляру 103 виртуальной машины.

[0027] В соответствии с одним вариантом осуществления масштабирование экземпляра виртуальной машины может включать изменение ее с одного типа экземпляра виртуальной машины на другой тип экземпляра, причем каждый тип экземпляра связан с предварительно заданным набором ресурсов. Например, после превышения предварительно заданной пороговой величины, упомянутая служба может изменить виртуальную машину, назначенную потребителю, с «малого» типа экземпляра (например, RAM в 1,7 Гбайт и хранилищем в 160 Гбайт) на «средний» тип экземпляра (например, RAM в 3,75 Гбайт и хранилищем в 410 Гбайт). В альтернативном варианте осуществления масштабирование экземпляра виртуальной машины может быть выполнено по гладкому континууму, например, посредством добавления какого-либо произвольного количества CPU, запоминающих устройств или других ресурсных функциональных возможностей в любых произвольных приращениях, например по требованию пользовательского приложения или службы, исполняющейся в виртуальной машине, и в соответствии с заданными метриками и пороговыми величинами.

[0028] На Фиг. 2 изображен пример 200 службы автоматического масштабирования, развернутой поставщиком услуг, в соответствии с различными вариантами осуществления. В изображенном варианте осуществления поставщик 201 услуг обладает и управляет набором вычислительных ресурсов, таких как серверы (219, 220) размещения, которые поставщик услуг предлагает для аренды своим потребителям. В соответствии по меньшей мере с одним вариантом осуществления поставщик 201 услуг создает окружение исполнения совместно используемых ресурсов, в котором каждый пользователь (например, потребитель) связан с одним или большим количеством экземпляров (209, 210, 211, 212) виртуальных машин. Экземпляры виртуальных машин функционируют на вычислительных ресурсах 214 и доступны пользователям на различных устройствах через сеть (например, Интернет). Используемая повсюду в данном раскрытии сеть может быть любой проводной или беспроводной сетью устройств, которые выполнены с возможностью осуществления связи друг с другом, включая, без ограничения, Интернет или другие глобальные сети (WAN), сети сотовой связи, локальные сети (LAN), сети хранения данных (SAN), внутренние сети, внешние сети и т.п. Вычислительные ресурсы, такие как серверы (219, 220) размещения поставщика услуг, могут находиться в любом физическом или логическом группировании ресурсов, таком как центр обработки данных, серверная ферма, точка (POP) присутствия сети (CDN) доставки контента и т.п.

[0029] В соответствии с одним вариантом осуществления поставщик услуг открывает один или большее количество интерфейсов (API) 208 прикладного программирования для разрешения пользователям (например, потребителям) осуществлять доступ и управлять экземплярами (209, 210, 211, 212) виртуальных машин. Например, API 208 могут использоваться пользователями для передачи образа виртуальной машины, который будет использоваться для предоставления одного или большего количества экземпляров виртуальной машины пользователю. Схожим образом в соответствии с различными вариантами осуществления, описанными в данном документе, API 208 могут использоваться для задания одной или большего количества задаваемых пользователем пороговых величин (215, 216, 217, 218) и метрик, к которым относятся пороговые величины. Например, одна пороговая величина может быть связана с функциональными возможностями упомянутых CPU, назначенных экземпляров виртуальной машины, как описано ранее. Другая пороговая величина может быть связана с количеством доступных запоминающих устройств, назначаемых виртуальной машине. Другая пороговая величина может быть средним количеством запросов, обрабатываемых приложением, исполняющимся в экземпляре виртуальной машины, за конкретный промежуток времени. Кроме того, API может использоваться потребителем для передачи запроса на выделение дополнительных ресурсных функциональных возможностей экземпляру(ам) виртуальной машины или освобождение ресурсных функциональных возможностей из экземпляра (экземпляров) виртуальной машины.

[0030] В соответствии с одним вариантом осуществления после того, как пользователь задал пороговые величины (215, 216, 217, 218), служба 213 автоматического наблюдения и масштабирования может наблюдать за метриками исполнения во время выполнения для обнаружения момента, когда метрики превысили заданную пороговую величину. В одном варианте осуществления служба 213 автоматического масштабирования является централизованной службой, которая собирает информацию о времени выполнения от каждого из экземпляров (209, 210, 211, 212) виртуальных машин и принимает решения о выделении или освобождении ресурсов из каждого экземпляра VM. В альтернативном варианте осуществления служба 213 автоматического масштабирования может быть реализована в качестве службы, функционирующей на каждой машине размещения, и быть ответственна за масштабирование экземпляров виртуальных машин на машине размещения.

[0031] В некоторых вариантах осуществления машины размещения включают агент (221, 222) масштабирования. Агент масштабирования может сообщать различные метрики в централизованную внешнюю службу 213 масштабирования, а также принимать команды от центральной службы 213 масштабирования и исполнить их. В соответствии с одним вариантом осуществления некоторые из экземпляров виртуальных машин могут включать гостевого агента 224, который сообщает различные метрики агенту масштабирования (например, метрики указывают на загрузку запоминающего устройства, загрузку CPU и т.д., воспринимаемую внутри виртуальной машины, а также задаваемыми пользователем метриками), который может в свою очередь сообщать метрики в службу 213 автоматического масштабирования. Затем служба 221 масштабирования может принять решения о расширении или сокращении ресурсных функциональных возможностей экземпляра виртуальной машины.

[0032] В соответствии с одним вариантом осуществления, если рабочая нагрузка или спрос на пользовательскую службу достигает некоторого предела, при котором одиночного экземпляра виртуальной машины больше не достаточно для надлежащей обработки нагрузки, служба 213 автоматического масштабирования может начать предоставлять новые экземпляры виртуальных машин пользователю. Кроме того, служба 213 автоматического масштабирования может продолжать управлять расширением и сокращением каждого отдельного экземпляра виртуальной машины посредством добавления и/или удаления вычислительных ресурсов из каждого экземпляра, как описано ранее. В некоторых вариантах осуществления могут быть заданы пороговые величины, которые требуют, чтобы множество экземпляров VM поддерживали рабочую нагрузку, даже если вся нагрузка может быть обработана одиночным экземпляром, например чтобы удовлетворить требованиям по избыточности. В данном случае, служба 213 может одновременно регулировать ресурсы, выделяемые более чем одном экземпляре VM, чтобы удовлетворять устанавливаемой пользователем политике задания размеров.

[0033] В соответствии с одним вариантом осуществления автоматическое масштабирование экземпляров виртуальных машин может обеспечивать некоторое количество различных моделей тарификации, которые могут использоваться для взимания платы с потребителя за использование виртуальных машин. В одном варианте осуществления с потребителя может взиматься льготная плата за пользование автоматически масштабируемым экземпляром виртуальной машины. Например, некоторым потребителям могут понадобиться расширенные функциональные возможности только несколько раз за день или в некоторых случаях. Для таких потребителей, с точки зрения затрат, может быть преимущественным использование службы автоматического масштабирования, которая может автоматически добавлять необходимые функциональные возможности по требованию и сокращать функциональные возможности после того, как спрос спал. Другие потребители могут точно не знать спроса на свои службы заранее, и эффективное использование службы автоматического масштабирования может обеспечить подход, который гарантирует, что пользовательское приложение удовлетворит спрос, без выделения избыточных ресурсных функциональных возможностей приложению до того, пока требования не станут хорошо понятыми. В другом варианте осуществления потребитель может тарифицироваться за использование ресурса в течение заданного периода времени (например, за используемый CPU⋅час, за Гбайт запоминающего устройства в час и т.д.).

[0034] В соответствии с одним вариантом осуществления поставщик 201 услуг может дополнительно использовать службу 223 расположения, которая отвечает за предоставление различных экземпляров (209, 210, 211, 212) виртуальных машин на серверах (219, 220) размещения. Служба расположения может определять, будет ли экземпляр виртуальной машины являться масштабируемой виртуальной машиной. Если служба 223 расположения определяет, что экземпляр виртуальной машины будет масштабируемым, то данная служба может предоставить виртуальную машину на сервере размещения, имеющем избыточные функциональные возможности, для того, чтобы суметь справиться с увеличением ресурсных функциональных возможностей, которые могут потребоваться во времени выполнения или по требованию. Например, если потребитель покупает автоматически масштабируемую виртуальную машину по льготной стоимости, то служба расположения может поместить VM на машину размещения, которая имеет достаточно функциональных возможностей для размещения увеличенной рабочей нагрузки VM. Если виртуальная машина не будет масштабируемой, то служба расположения сможет предоставлять виртуальную машину на машинах размещения с небольшими, неизбыточными или зарезервированными функциональными возможностями.

[0035] В соответствии с одним вариантом осуществления поставщик 201 услуг может дополнительно предоставлять электронную торговую площадку, которая позволяет потребителю покупать (например, выделять) дополнительные ресурсы вычислительного устройства размещения для своей виртуальной машины. Цена дополнительных ресурсов может основываться по меньшей мере частично на спросе и предложении упомянутых одного или большего количества ресурсов на вычислительном устройстве размещения. Например, если имеется большой объем функциональных возможностей CPU, доступных на машине размещения, и ожидается, что спрос останется низким, то цена за назначение дополнительных CPU виртуальной машине на такой машине размещения может быть низкой. Схожим образом, если имеется небольшой объем доступных функциональных возможностей CPU, то цена на дополнительные CPU может быть более высокой. Посредством обеспечения ценового колебания на основе спроса и предложения по такому принципу поставщик услуг сможет оптимизировать использование ресурсов и предоставлять более эффективное распределение рабочей нагрузки по своей сети.

[0036] На Фиг. 3A изображен примерный процесс 300 для автоматического масштабирования экземпляра виртуальной машины на машине размещения, в соответствии с различными вариантами осуществления. Несмотря на то что на данной фигуре функциональные этапы могут изображаться в конкретной последовательности, данные процессы не должны ограничиваться изображенным конкретным порядком или этапами. Специалист в данной области техники поймет, что различные этапы, изображенные на данной или других фигурах, различным образом могут изменяться, перегруппировываться, выполняться параллельно или адаптироваться. Кроме того, следует понимать, что некоторые этапы или последовательности этапов могут быть добавлены к таким процессам или опущены без отступления от объема различных вариантов осуществления. Кроме того, изображения процессов, содержащиеся в данном документе, предназначены для наглядного показа среднему специалисту в области техники идеи последовательности этапов, а не для определения фактических последовательностей исполнения кода, которая различным образом может быть реализована в виде разных последовательностей действий, оптимизирована под производительность или иным образом модифицирована.

[0037] На этапе 302 экземпляр виртуальной машины предоставляется потребителю. Экземпляр виртуальной машины может предоставляться поставщиком услуг в окружении с совместно используемыми вычислительными ресурсами от имени потребителя. В соответствии с одним вариантом осуществления экземпляр виртуальной машины, предоставляемый потребителю, исполняет приложение, которое предоставляет конкретную службу. Например, потребитель может развернуть некоторую службу, использующую несколько виртуальных машин, используя один экземпляр виртуальной машины в качестве сервера базы данных, отдельный экземпляр виртуальной машины, который функционирует в качестве фронтального (например, для логики представления) сервера и третий экземпляр виртуальной машины, который функционирует в качестве сервера вычислений промежуточного программного обеспечения. При предоставлении экземпляра виртуальной машины пользователь может установить задаваемую потребителем пороговую величину для масштабирования упомянутых одной или большего количества виртуальных машин. В одном варианте осуществления потребитель может использовать API, предоставляемый поставщиком услуг, для задания различных значений и пороговых величин для конкретных функциональных метрик. Например, пользователь может установить, что размер экземпляра виртуальной машины должен быть увеличен, если экземпляр функционирует на 60% от функциональных возможностей CPU дольше 1 минуты. В другом варианте осуществления пользователь может быть в состоянии предоставлять наборы пороговых величин независимо от экземпляра виртуальной машины и позже связывать их с данным экземпляром, когда он запускается или иначе, например, в более позднее время, когда он уже функционирует.

[0038] На этапе 303, служба автоматического масштабирования наблюдает за одной или большим количеством функциональных метрик экземпляра виртуальной машины в течение исполнения рабочей нагрузки. Например, процесс агента, находящийся на машине размещения, может непрерывно собирать различную информацию о времени выполнения, такую как использование CPU, количество открытых соединений, количество IP-пакетов, количество запросов и т.п. Собранная информация может быть сообщена в центральную службу, которая может принимать решение о расширении или сокращении каждого экземпляра виртуальной машины согласно заданным потребителем командам. В альтернативном варианте осуществления упомянутая служба может размещаться внутри машины размещения, и необходимость в сообщении собранных метрик отсутствует. В других вариантах осуществления экземпляр виртуальной машины может включать в себя агент, который сообщает заданные пользователем метрики, относящиеся к масштабированию виртуальной машины.

[0039] На этапе 304 упомянутая служба обнаруживает, что упомянутые одна или большее количество метрик превысили заданную потребителем пороговую величину. Например, служба может обнаружить, что использование CPU у экземпляра виртуальной машины превысило пороговую величину использования в течение минимального периода времени, установленного потребителем.

[0040] На этапе 305 упомянутая служба может осуществлять масштабирование экземпляра виртуальной машины для увеличения или уменьшения функциональных возможностей по различным ресурсам. В одном варианте осуществления, если нагрузка по обработке увеличилась, то служба масштабирования выделяет дополнительные вычислительные ресурсы экземпляру виртуальной машины. Например, служба масштабирования может добавить большее количество CPU (или виртуальных блоков функциональных возможностей CPU) экземпляру виртуальной машины. В другом варианте осуществления служба масштабирования может освободить часть ресурсов из экземпляра виртуальной машины и/или переместить часть ресурсов в другие экземпляры виртуальных машин. В некоторых вариантах осуществления определяется часть или поднабор, выбираемые для освобождения, для того, чтобы вернуть метрики обратно в пределы заданных потребителем пороговых величин.

[0041] На Фиг. 3B изображен примерный процесс 310 масштабирования экземпляра виртуальной машины в ответ на прием запроса от пользователя, в соответствии с различными вариантами осуществления. На этапе 311 пользователю на машине размещения предоставляется экземпляр виртуальной машины, как описано ранее. После предоставления экземпляр виртуальной машины может исполнять рабочую нагрузку от имени пользователя. На этапе 312 поставщик услуг принимает запрос на увеличени