23 Ağustos 2014 Cumartesi

RFC (Request For Comment)

İnternette kullanılan protokoller ile ilgili standartları tanımlayan dokümanlar dizisidir. Bütün internet standartları RFC dökümanları olarak tanımlıdır. Her döküman bir RFC numarasına sahiptir.

21 Ağustos 2014 Perşembe

Blade Sunucular ve Avantajları

Blade Şasiler ve Blade Sunucular (Blade Enclosures & Blade Servers) kısaca anlatmak gerekir ise, üreticilerin çeşitli isimlerle adlandırdığı (Blade System c-Class, BladeCenter E, H gibi), sunucuların toplam ve ilk sahip olma maliyetini düşürmek üzere tasarlanmış, mevcut veya yeni temin edilecek blade sunucu donanımları üzerine kurulan ve buna ek olarak yazılım, hizmet, ağ ve sanallaştırma araçlarına sahip entegre ortamlardır.

En yüksek verim ve blade miamrinin gerçek avantajları sanallaştırma altyapısına sahip kurum ve kuruluşlarda gözlenmektedir.

Blade Sistemler, erişebildikleri yüksek donanım yoğunluğu, az yer kaplamaları, anında fonksiyon değiştirme, tüm bir şasinin kapatılmasına gerek kalmadan donanıma müdahale edebilme, tam yedekli güç kaynakları, fanlar, ağ arabirimleri ve veriyolları gibi avantajlar sunmakla birlikte sanallaştırma altyapısıyla bütünleşik esnek işlemgücü ve bellek havuzu gibi avantajlara sahiptir.

Blade Sistemlerin kısaca avantajları;

Hızlı ve kolay kurulum
İlk sahip olma maliyetinin aynı işlemci ve belleğe sahip rack tipi sunuculara göre düşük olması.
Operasyonel maliyetlerin rack tipi sunuculara nazaran daha düşük olması,
Rack/Tower form faktör sunuculara oranla daha az yer kaplaması,
Sanallaştırma ve konsolidasyon seçenekleri için tercih edilen platform olması ve entegrasyon kolaylığı,
Sağladığı yoğun sunucu alanı ve düzenlenmiş blade şasi sayesinde esneklik sağlanması ve kablo karmaşasının önlemesi
İş sürekliliği konusunda tam yedekli bileşenler ve esnek yapı sayesinde rakipsiz olması
Güç tüketimi ve soğutma maliyetinin rack/tower form faktör sunuculara göre daha düşük olması

Blade Sistemlerin kısaca dezavantajları;

Kısıtlı disk alanı
Rack tipi sunuculara ait kartların kullanılamaması, kısıtlı pci kart desteği

Kaynak:

http://www.4s.com.tr/tr/blog/Lists/Postalar/Post.aspx?ID=20

22 Mayıs 2014 Perşembe

MySql Bağlantı Sayısını Arttırma

Kod tarafında connection açıp kapamada problem olmadığı ve çok fazla yerden bağlantı yapılması gerektiği durumlarda /etc/my.cnf  dosyasında değişiklik yapmak gerekir:


$vi /etc/my.cnf 
$max_connections = 500

MySql tekrar başlatılır ve değer kontrol edilir:

$service mysqld restart
$echo "show variables like 'max_connections';" | mysql


12 Mayıs 2014 Pazartesi

LSH- Locality Sensitive Hashing Uygulamaları

Locality Sensitive Hashing (LSH) kullanılarak yapılabilecek uygulamalar:

* Benzer twitleri gruplama
* Tekrarlı (dublicate) dokümanları bulma
* Aynı dokümanın versiyonlarını bulma
* Belirli zaman serisindeki desenler çıkartma (sensör verileri gibi)
*  Girdilerden kişileri tanımlama

28 Nisan 2014 Pazartesi

Hadoop-Hbase "dfs.datanode.max.xcievers" optimum


hdfs-site.xml dosyasında tanımlanan "dfs.datanode.max.xcievers" parametresi client makinalarda kaç adet thread açılacağını tanımladığımız değer. Hbase in çalışma performası için önemli bir parametre.
Buradaki optimum sayının ne olacağına karar vermek için aşağıdaki formul kullanılabilir:




Bu değer doğru tanımlanmadığında aşağıdaki gibi atalar alınabilmekte:


Java.io.IOException: Could not obtain block: blk_2960332903087986581_94433611 file=/home/hadoop/hadoop-hadoop/mapred/staging/hadoop/.staging/job_201404221200_0002/job.split
at org.apache.hadoop.hdfs.DFSClient$DFSInputStream.chooseDataNode(DFSClient.java:2426) at org.apache.hadoop.hdfs.DFSClient$DFSInputStream.blockSeekTo(DFSClient.java:2218) at org.apache.hadoop.hdfs.DFSClient$DFSInputStream.read(DFSClient.java:2381) at org.apache.hadoop.hdfs.DFSClient$DFSInputStream.read(DFSClient.java:2309) at java.io.DataInputStream.readByte(DataInputStream.java:265) at org.apache.hadoop.io.WritableUtils.readVLong(WritableUtils.java:299) at org.apache.hadoop.io.WritableUtils.readVInt(WritableUtils.java:320) at org.apache.hadoop.io.Text.readString(Text.java:400) at org.apache.hadoop.mapred.MapTask.getSplitDetails(MapTask.java:382) at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.java:728) at org.apache.hadoop.mapred.MapTask.run(MapTask.java:370) at org.apache.hadoop.mapred.Child$4.run(Child.java:255) at java.security.AccessController.doPrivileged(Native Method) at javax.security.auth.Subject.doAs(Subject.java:415) at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1149) at org.apache.hadoop.mapred.Child.main(Child.java:249)

16 Nisan 2014 Çarşamba

Nutch Hata: (Ljava/lang/String;ZZ)Lorg/hsqldb/persist/HsqlProperties

pom.xml dosyasında hem hbase hem de mysql için dependency eklendiğinde myysql kullanılınca ilk önce hbase yüklendi ise onu kullanmaya çalışıyor.

Bu durumda pom.zml de hsql eklenirken aşağıdaki şekilde olmalı:

 <dependency>
            <groupId>org.hsqldb</groupId>
            <artifactId>hsqldb</artifactId>
            <version>2.2.8</version>
            <scope>provided</scope>
        </dependency>


3 Nisan 2014 Perşembe