@liyuj
2017-02-05T21:17:15.000000Z
字数 8638
阅读 3702
Apache-Ignite-1.8.0-中文开发手册
Ignite SQL网格定义了一套API,这样就方便了与Ignite核心模块不直接支持的各种工具、语言和技术进行集成,最常见的,Ignite的JDBC和ODBC驱动就是用于这个目的。本章的内容就包含了有关研究如何利用这样的工具或者产品接入Ignite集群以及处理数据的入门向导。
Apache Zeppelin,是一个支持交互式数据分析的基于Web的笔记本,它可以用SQL,Scala以及其他的工具来生成漂亮的数据驱动的,交互式以及可协同的文档。
Zeppelin通过Ignite的SQL解释器可以从缓存中获得分布式的数据,此外,当SQL无法满足需求时Ignite解释器可以执行任何的Scala代码。比如,可以将数据注入缓存或者执行分布式计算。
为了通过Ignite解释器启动,需要用2个简单的步骤来安装Zeppelin:
git clone https://github.com/apache/incubator-zeppelin.git
cd incubator-zeppelin
mvn clean install -Dignite-version=1.7.0 -DskipTests
用指定的Ignite版本构建Zeppelin
在构建Zeppelin时可以通过ignite-version
属性来指定Ignite的版本,需要使用1.7.0
以及之后的版本。添加Ignite解释器
Ignite和Ignite解释器默认已经在Zeppelin中配置了。另外也可以将如下的解释器类名加入相应的配置文件或者环境变量中(可以参照Zeppelin安装向导的配置章节)。
org.apache.zeppelin.ignite.IgniteInterpreter
org.apache.zeppelin.ignite.IgniteSqlInterpreter
一旦Zeppelin安装配置好了,可以用如下的命令来启动:
./bin/zeppelin-daemon.sh start
然后可以在浏览器中打开启动页(默认的启动页地址是 http://localhost:8080).
也可以参照Zeppelin安装文档.
点击Interpreter
菜单项,这个页面包含了所有的已配置的解释器组的设置信息。向下滚动到Ignite
章节然后点击Edit
按钮可以修改属性的值,点击Save
按钮可以保存配置的变更,不要忘了配置变更后重启解释器。
配置Ignite SQL 解释器
Ignite SQL解释器只需要ignite.jdbc.url
属性,他的值是JDBC连接地址,在后面的示例中会用到words
缓存,因此像下面这样编辑ignite.jdbc.url
属性:
jdbc:ignite://localhost:11211/words
配置Ignite解释器
在大多数简单的场景中,Ignite解释器需要下述属性:
ignite.addresses
:逗号分割的Ignite集群主机列表,要了解细节信息可以参照2.4.集群配置
章节;ignite.clientMode
:可以以客户端节点也可以以服务端节点连接到Ignite集群,要了解细节可以参照1.6.客户端和服务器端
章节。可以使用true
或者false
分别以客户端或者服务端模式连接到集群。ignite.peerClassLoadingEnabled
:启用对等类加载,要了解细节可以参照2.5.零部署
章节。可以用true
或者false
分别启用或者禁用对等类加载。对于更复杂的场景,可以通过指向Ignite配置文件的ignite.config.url
属性来自定义Ignite配置,注意如果定义了ignite.config.url
属性,那么上述的属性都会被忽略。
启动Ignite集群
在使用Zeppelin之前需要启动Ignite集群,下载Ignite发行版然后解压压缩包:
unzip apache-ignite-fabric-{version}-bin.zip -d <dest_dir>
示例是以一个单独的Maven工程的形式提供的,因此要启动运行只需要简单地导入<dest_dir>/apache-ignite-fabric-{version}-bin/pom.xml
文件到喜欢的IDE中即可。
启动如下的示例:
org.apache.ignite.examples.ExampleNodeStartup
:启动一个或者多个Ignite节点;org.apache.ignite.examples.streaming.wordcount.StreamWords
:启动客户端节点使数据持续流入words
缓存。现在已经准备好通过Zeppelin来访问Ignite集群了。
在Zeppelin中创建新的笔记
通过Notebook
菜单项创建(或者打开已有的)笔记。
创建新的笔记之后需要再次点击Notebook
菜单项来打开创建的笔记,点击笔记的名字可以对他重新命名,输入新的标题然后按下回车
键。
笔记创建之后就可以输入SQL语句或者Scala代码,通过点击Execute
按钮来执行(蓝色三角形图标)。
使用Ignite SQL解释器
要执行SQL查询要使用%ignite.ignitesql
前缀以及SQL语句,比如查询words
缓存中最初的是个单词,可以使用如下的查询:
%ignite.ignitesql select _val, count(_val) as cnt from String group by _val order by cnt desc limit 10
执行示例之后可以以表格或者图形的形式查看结果,可以通过点击相应的图标来切换视图。
使用Ignite解释器
要执行Scala代码片段需要使用%ignite
前缀以及代码片段,比如可以在所有的单词中查询平均值,最小值以及最大值。
%ignite
import org.apache.ignite._
import org.apache.ignite.cache.affinity._
import org.apache.ignite.cache.query._
import org.apache.ignite.configuration._
import scala.collection.JavaConversions._
val cache: IgniteCache[AffinityUuid, String] = ignite.cache("words")
val qry = new SqlFieldsQuery("select avg(cnt), min(cnt), max(cnt) from (select count(_val) as cnt from String group by _val)", true)
val res = cache.query(qry).getAll()
collectionAsScalaIterable(res).foreach(println _)
执行这个示例之后就可以看到Scala REPL的输出:
注意Ignite集群的Ignite版本以及Zeppelin的版本必须匹配。
Tableau是一个聚焦于商务智能领域的交互式数据可视化工具。它使用ODBC API接入各种数据库和数据平台,然后分析里面的数据。
Ignite有自己的ODBC实现,这样就使从Tableau端接入Ignite成为可能,并且可以分析存储于分布式Ignite集群中的数据。
要从Tableau接入Ignite,需要进行如下操作:
ODBC processor
的协议与Ignite集群通信,一定要确保这个组件在集群端已经启用。上述步骤完成后,就可以接入集群然后分析数据了。
Connect
-> To a Server
-> More...
窗口中找到Other Databases (ODBC)
配置; Edit connection
链接; DSN
属性值,下面的示例中为:LocalApacheIgniteDSN
,做完之后,点击Connect
按钮; Sign In
按钮以及其他的与连接有关的字段就会变为可用状态,点击Sign In
就会完成连接过程; 一旦成功建立了Ignite和Tableau之间的连接,就可以通过Tableau支持的各种方式对数据进行查询和分析,通过官方文档可以了解更多的细节。
PHP提供了一个轻量级、一致的接口来访问数据库,叫做PHP数据对象-PDO,这个扩展依赖于若干特定数据库的PDO驱动,其中之一是PDO_ODBC,它可以接入任何实现了自己的ODBC驱动的数据库。
通过使用Ignite的ODBC驱动,从PHP应用中就可以接入Ignite集群,然后访问和修改数据,本文就会介绍如何达到该目的。
Ignite遵守ODBC协议,并且实现了自己的ODBC驱动,这个驱动会用于PHP的PDO框架接入Ignite集群。
查看本系列文档的ODBC部分,可以知道如何在目标系统上安装和配置这个驱动,安装完毕后,就可以进入下一个章节。
只能使用Ignite的1.8.0及以后的版本中的ODBC驱动,之前的版本不支持PHP的PDO框架。
要安装PHP,PDO以及PDO_ODBC驱动,可以看PHP的相关资源。
extension=php_pdo_odbc.dll
的注释去掉,并且确保extension_dir
指向php_pdo_odbc.dll
所在的目录,另外,这个目录还需要加入PATH
环境变量;php5-odbc
;PHP PDO准备就绪之后,就可以通过一个常规的配置启动Ignite集群,然后在PHP应用中接入集群并且查询和修改集群的数据。
首先,集群端已经起用了ODBC处理器,如何做呢,在每个集群节点的IgniteConfiguration
中加入odbcConfiguration
就可以了。
下一步,列出IgniteConfiguration
中与特定数据模型有关的所有缓存的配置,因为之后要在PHP PDO端执行SQL查询,所有每个缓存的配置都需要包含一个QueryEntity
的定义,可以查看有关SQL查询
的文档,来了解有关QueryEntity
和SQL查询的更多信息。
可以使用下面的配置模板启动一个Ignite集群:
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xmlns:util="http://www.springframework.org/schema/util"
xsi:schemaLocation="
http://www.springframework.org/schema/beans
http://www.springframework.org/schema/beans/spring-beans.xsd
http://www.springframework.org/schema/util
http://www.springframework.org/schema/util/spring-util.xsd">
<bean id="ignite.cfg" class="org.apache.ignite.configuration.IgniteConfiguration">
<!-- Enabling ODBC. -->
<property name="odbcConfiguration">
<bean class="org.apache.ignite.configuration.OdbcConfiguration"></bean>
</property>
<!-- Configuring cache. -->
<property name="cacheConfiguration">
<list>
<bean class="org.apache.ignite.configuration.CacheConfiguration">
<property name="name" value="Person"/>
<property name="cacheMode" value="PARTITIONED"/>
<property name="atomicityMode" value="TRANSACTIONAL"/>
<property name="writeSynchronizationMode" value="FULL_SYNC"/>
<property name="queryEntities">
<list>
<bean class="org.apache.ignite.cache.QueryEntity">
<property name="keyType" value="java.lang.Long"/>
<property name="valueType" value="Person"/>
<property name="fields">
<map>
<entry key="firstName" value="java.lang.String"/>
<entry key="lastName" value="java.lang.String"/>
<entry key="resume" value="java.lang.String"/>
<entry key="salary" value="java.lang.Integer"/>
</map>
</property>
<property name="indexes">
<list>
<bean class="org.apache.ignite.cache.QueryIndex">
<constructor-arg value="salary"/>
</bean>
</list>
</property>
</bean>
</list>
</property>
</bean>
</list>
</property>
</bean>
</beans>
要从PHP PDO端接入Ignite,需要正确地配置DSN,在下面的示例中,假定DSN名为LocalApacheIgniteDSN
。
注意,PHP PDO端必须配置使用DSN。
最后,都配置好之后,就可以在Ignite和PHP PDO应用之间相互连接了,可以像下面这样执行一些查询:
Insert:
<?php
try {
// Connecting to Ignite using pre-configured DSN.
$dbh = new PDO('odbc:LocalApacheIgniteDSN');
// Changing PDO error mode.
$dbh->setAttribute(PDO::ATTR_ERRMODE, PDO::ERRMODE_EXCEPTION);
// Preparing query.
$dbs = $dbh->prepare('INSERT INTO Person (_key, firstName, lastName, resume, salary)
VALUES (?, ?, ?, ?, ?)');
// Declaring parameters.
$key = 777;
$firstName = "James";
$lastName = "Bond";
$resume = "Secret Service agent";
$salary = 65000;
// Binding parameters.
$dbs->bindParam(1, $key);
$dbs->bindParam(2, $firstName);
$dbs->bindParam(3, $lastName);
$dbs->bindParam(4, $resume);
$dbs->bindParam(5, $salary);
// Executing the query.
$dbs->execute();
} catch (PDOException $e) {
print "Error!: " . $e->getMessage() . "\n";
die();
}
?>
Update:
<?php
try {
// Connecting to Ignite using pre-configured DSN.
$dbh = new PDO('odbc:LocalApacheIgniteDSN');
// Changing PDO error mode.
$dbh->setAttribute(PDO::ATTR_ERRMODE, PDO::ERRMODE_EXCEPTION);
// Executing the query. The salary field is an indexed field.
$dbh->query('UPDATE Person SET salary = 42000 WHERE salary > 50000');
} catch (PDOException $e) {
print "Error!: " . $e->getMessage() . "\n";
die();
}
?>
Select:
<?php
try {
// Connecting to Ignite using pre-configured DSN.
$dbh = new PDO('odbc:LocalApacheIgniteDSN');
// Changing PDO error mode.
$dbh->setAttribute(PDO::ATTR_ERRMODE, PDO::ERRMODE_EXCEPTION);
// Executing the query and getting a result set. The salary field is an indexed field.
$res = $dbh->query('SELECT firstName, lastName, resume, salary from Person
WHERE salary > 12000');
if ($res == FALSE)
print_r("Exception");
// Printing results.
foreach($res as $row) {
print_r($row);
}
} catch (PDOException $e) {
print "Error!: " . $e->getMessage() . "\n";
die();
}
?>
Delete:
<?php
try {
// Connecting to Ignite using pre-configured DSN.
$dbh = new PDO('odbc:LocalApacheIgniteDSN');
// Changing PDO error mode.
$dbh->setAttribute(PDO::ATTR_ERRMODE, PDO::ERRMODE_EXCEPTION);
// Performing query. Both firstName and lastName are non indexed fields.
$dbh->query('DELETE FROM Person WHERE firstName = \'James\' and lastName = \'Bond\'');
} catch (PDOException $e) {
print "Error!: " . $e->getMessage() . "\n";
die();
}
?>