@liyuj
2017-04-09T21:21:07.000000Z
字数 7560
阅读 5301
Apache-Ignite-1.9.0-中文开发手册
AWS云上的节点发现通常认为很有挑战性。Amazon EC2,和其他大部分的虚拟环境一样,有如下的限制:
虽然在没有组播时可以使用基于TCP的发现,但是不得不处理不断变换的IP地址以及不断更新配置。这产生了一个主要的不便之处以至于在这种环境下基于静态IP的配置实质上变得不可用。
为了减轻不断变化的IP地址的问题,Ignite支持通过使用基于TcpDiscoveryS3IpFinder
的S3存储来实现节点的自动发现。在启动时节点在Amazon S3存储上注册他们的IP地址,这样其他节点会试图连接任意存储在S3上的IP地址然后初始化网格节点的自动发现。
这个方法可以只配置一次就可以在所有的EC2实例上复用。
下面的例子显示了如何配置基于Amazon S3的IP搜索器:
XML:
<bean class="org.apache.ignite.configuration.IgniteConfiguration">
...
<property name="discoverySpi">
<bean class="org.apache.ignite.spi.discovery.tcp.TcpDiscoverySpi">
<property name="ipFinder">
<bean class="org.apache.ignite.spi.discovery.tcp.ipfinder.s3.TcpDiscoveryS3IpFinder">
<property name="awsCredentials" ref="aws.creds"/>
<property name="bucketName" value="YOUR_BUCKET_NAME"/>
</bean>
</property>
</bean>
</property>
</bean>
<!-- AWS credentials. Provide your access key ID and secret access key. -->
<bean id="aws.creds" class="com.amazonaws.auth.BasicAWSCredentials">
<constructor-arg value="YOUR_ACCESS_KEY_ID" />
<constructor-arg value="YOUR_SECRET_ACCESS_KEY" />
</bean>
Java:
TcpDiscoverySpi spi = new TcpDiscoverySpi();
BasicAWSCredentials creds = new BasicAWSCredentials("yourAccessKey", "yourSecreteKey");
TcpDiscoveryS3IpFinder ipFinder = new TcpDiscoveryS3IpFinder();
ipFinder.setAwsCredentials(creds);
spi.setIpFinder(ipFinder);
IgniteConfiguration cfg = new IgniteConfiguration();
// Override default discovery SPI.
cfg.setDiscoverySpi(spi);
// Start Ignite node.
Ignition.start(cfg);
GCE上的节点发现通常认为很有挑战性。Google云,和其他大部分的虚拟环境一样,有如下的限制:
虽然在没有组播时可以使用基于TCP的发现,但是不得不处理不断变换的IP地址以及不断更新配置。这产生了一个主要的不便之处以至于在这种环境下基于静态IP的配置实质上变得不可用。
为了减轻不断变化的IP地址的问题,Ignite支持通过使用基于TcpDiscoveryGoogleStorageIpFinder
的Google云存储来实现节点的自动发现。在启动时节点在存储上注册他们的IP地址,这样其他节点会试图连接任意保存在存储上的IP地址然后初始化网格节点的自动发现。
这个方法可以只配置一次就可以在所有的EC2实例上复用。
下面的例子显示了如何配置基于Google云存储的IP搜索器:
XML:
<bean class="org.apache.ignite.configuration.IgniteConfiguration">
...
<property name="discoverySpi">
<bean class="org.apache.ignite.spi.discovery.tcp.TcpDiscoverySpi">
<property name="ipFinder">
<bean class="org.apache.ignite.spi.discovery.tcp.ipfinder.gce.TcpDiscoveryGoogleStorageIpFinder">
<property name="projectName" ref="YOUR_GOOGLE_PLATFORM_PROJECT_NAME"/>
<property name="bucketName" value="YOUR_BUCKET_NAME"/>
<property name="serviceAccountId" value="YOUR_SERVICE_ACCOUNT_ID"/>
<property name="serviceAccountP12FilePath" value="PATH_TO_YOUR_PKCS12_KEY"/>
</bean>
</property>
</bean>
</property>
</bean>
Java:
TcpDiscoverySpi spi = new TcpDiscoverySpi();
TcpDiscoveryGoogleStorageIpFinder ipFinder = new TcpDiscoveryGoogleStorageIpFinder();
ipFinder.setServiceAccountId(yourServiceAccountId);
ipFinder.setServiceAccountP12FilePath(pathToYourP12Key);
ipFinder.setProjectName(yourGoogleClourPlatformProjectName);
// Bucket name must be unique across the whole Google Cloud Platform.
ipFinder.setBucketName("your_bucket_name");
spi.setIpFinder(ipFinder);
IgniteConfiguration cfg = new IgniteConfiguration();
// Override default discovery SPI.
cfg.setDiscoverySpi(spi);
// Start Ignite node.
Ignition.start(cfg);
云平台上的节点发现通常认为很有挑战性。Google云,和其他大部分的虚拟环境一样,有如下的限制:
虽然在没有组播时可以使用基于TCP的发现,但是不得不处理不断变换的IP地址以及不断更新配置。这产生了一个主要的不便之处以至于在这种环境下基于静态IP的配置实质上变得不可用。
为了减轻不断变化的IP地址的问题,Ignite支持通过使用基于TcpDiscoveryCloudIpFinder
的Apache jclouds工具包来实现节点的自动发现。要了解有关Apache JCloud的信息,请参照jclouds.apache.org。
该IP搜索器形成节点地址,通过获取云上所有虚拟机的私有和共有IP地址以及给他们增加一个端口号使Ignite可以运行,该端口可以通过TcpDiscoverySpi.setLocalPort(int)
或者TcpDiscoverySpi.DFLT_PORT
进行设置,这样所有节点会连接任何生成的的IP地址然后初始化网格节点的自动发现。
可以参考Apache jclouds providers section来获取他支持的云平台的列表。
所有虚拟机都要使用同一个端口启动Ignite实例,否则他们无法通过IP搜索器发现对方。
下面的例子显示了如何配置基于Apache JCloud的IP搜索器:
XML:
<bean class="org.apache.ignite.configuration.IgniteConfiguration">
...
<property name="discoverySpi">
<bean class="org.apache.ignite.spi.discovery.tcp.TcpDiscoverySpi">
<property name="ipFinder">
<bean class="org.apache.ignite.spi.discovery.tcp.ipfinder.cloud.TcpDiscoveryCloudIpFinder">
<!-- Configuration for Google Compute Engine. -->
<property name="provider" value="google-compute-engine"/>
<property name="identity" value="YOUR_SERVICE_ACCOUNT_EMAIL"/>
<property name="credentialPath" value="PATH_YOUR_PEM_FILE"/>
<property name="zones">
<list>
<value>us-central1-a</value>
<value>asia-east1-a</value>
</list>
</property>
</bean>
</property>
</bean>
</property>
</bean>
Java:
TcpDiscoverySpi spi = new TcpDiscoverySpi();
TcpDiscoveryCloudIpFinder ipFinder = new TcpDiscoveryCloudIpFinder();
// Configuration for AWS EC2.
ipFinder.setProvider("aws-ec2");
ipFinder.setIdentity(yourAccountId);
ipFinder.setCredential(yourAccountKey);
ipFinder.setRegions(Collections.<String>emptyList().add("us-east-1"));
ipFinder.setZones(Arrays.asList("us-east-1b", "us-east-1e"));
spi.setIpFinder(ipFinder);
IgniteConfiguration cfg = new IgniteConfiguration();
// Override default discovery SPI.
cfg.setDiscoverySpi(spi);
// Start Ignite node.
Ignition.start(cfg);
以Kubernetes容器组的形式部署Ignite节点有特定的要求,即要适应Ignite节点的发现机制,很可能无法直接地使用基于组播的IP搜索器,因为组播通讯通常会被交换机拦截。然而,只要Kubernetes进行了地址的动态分配,就可以使用静态IP搜索器,然后列出所有Ignite节点的地址。
作为一个机会,Amazon AWS IP搜索器、Google计算引擎IP搜索器或者Jcloud IP搜索器可能可以满足需求,因为Kubernetes可能会被部署到这些环境中的一个。另外,一个共享文件系统或者关系数据库也可以用于Ignite节点的自动发现,但是需要单独维护数据库或者共享文件系统。
本文提供了当使用Kubernetes进行Ignite节点的容器化时,开发特定的IP搜索器的信息,通过与特定的持有所有最新的端点的Kubernetes服务进行通信,IP搜索器会自动地检索所有活动Ignite容器组的IP地址。
要在Kubernetes中启用节点的自发现,需要在配置中设定TcpDiscoveryKubernetesIpFinder
,如下所示:
XML:
<property name="discoverySpi">
<bean class="org.apache.ignite.spi.discovery.tcp.TcpDiscoverySpi">
<property name="ipFinder">
<bean class="org.apache.ignite.spi.discovery.tcp.ipfinder.kubernetes.TcpDiscoveryKubernetesIpFinder"/>
</property>
</bean>
</property>
</bean>
Java:
// Configuring discovery SPI.
TcpDiscoverySpi spi = new TcpDiscoverySpi();
// Configuring IP finder.
TcpDiscoveryKubernetesIpFinder ipFinder = new TcpDiscoveryKubernetesIpFinder();
spi.setIpFinder(ipFinder);
IgniteConfiguration cfg = new IgniteConfiguration();
// Override default discovery SPI.
cfg.setDiscoverySpi(spi);
// Start Ignite node.
Ignition.start(cfg);
Maven构件
如果要使用TcpDiscoveryKubernetesIpFinder
的话,需要将ignite-kubernetes
加入依赖。
Ignite的KubernetesIPFinder
需要配置和部署一个特定的Kubernetes
服务,他会维护一个所有活动Ignite容器组(节点)的IP地址列表。
每次启动一个新的Ignite容器组,IP搜索器都会通过Kubernetes的API访问服务来获得已有的Ignite容器组的地址列表,使用这些地址,新的节点就会发现其他的集群节点,然后最终加入Ignite集群。
这个服务需要手动配置,然后在部署的Ignite容器组启动之前启动,下面就是这个服务的典型配置:
apiVersion: v1
kind: Service
metadata:
# Name of Ignite Service used by Kubernetes IP finder for IP addresses lookup.
name: ignite
spec:
clusterIP: None # custom value.
ports:
- port: 9042 # custom value.
selector:
# Must be equal to one of the labels set in Ignite pods'
# deployement configuration.
app: ignite
默认会假定服务名为ignite
,如果修改了这个名字,一定确保要同时调整TcpDiscoveryKubernetesIpFinder.setServiceName(String)
参数。
另外,也建议通过某种方式标记Ignite容器组,然后在服务的selector
配置段中指定这个标记,比如,根据上面的配置启动的服务,就会有目的地监控标记为app: ignite
的Kubernetes容器组。
在外面接入容器化的Ignite集群
TcpDiscoveryKubernetesIpFinder
从设计上来说是用于Kubernetes环境内部的,这就意味着所有的Ignite节点以及与这个集群交互的应用,都需要被Kubernetes容器化。
然而,如果想要从Kubernetes外部接入Ignite集群,那么:
1. 在Ignite容器组的YAML配置中设置hostNetwork=true
,这样节点就可以从外部通过TCP/IP与容器化的Ignite节点(容器组)建立连接。
2. 为在Kubernetes环境外部的节点使用同一个TcpDiscoveryKubernetesIpFinder
。
通常来说,TcpDiscoveryKubernetesIpFinder
在设计上是可以直接用的,但是如果需要进行细粒度的控制,下面的参数也可以进行调整:
属性 | 描述 | 默认值 |
---|---|---|
setServiceName(String) |
设置用于Ignite容器组IP地址检索的Kubernetes服务的名字,这个服务名字必须与服务的Kubernetes配置中的名字一致。 | ignite |
setNamespace(String) |
设置Kubernetes服务所属的命名空间。 | default |
setMasterUrl(String) |
设置Kubernetes的API服务器的主机名。 | https://kubernetes.default.svc.cluster.local:443 |
setAccountToken(String) |
设置服务标记文件的路径。 | /var/run/secrets/kubernetes.io/serviceaccount/token |