忍者ブログ
統計、機械学習、AIを学んでいきたいと思います。 お役に立てば幸いです。

【Kaggle挑戦記】Titanic 攻略 #1:Mac環境構築とデータロードの第一歩

Kaggle の「Titanic: Machine Learning from Disaster」は、機械学習を学ぶ誰もが通る登竜門です。1912年に起きたタイタニック号の沈没事故を題材に、乗客の「年齢」「性別」「客室の等級」などのデータから、その乗客が生き残るか、それとも犠牲になるか(生存予測)を当てるという、非常に明確な目的を持ったコンペティションです。

今回は、macOS 15.7.4Miniconda 環境(Python 3.13.5)を使い、データを読み込んで分析の土俵に上がるまでの手順を整理していきましょう。

1. 準備:データの入手と配置

【 手順 】 まずは Kaggle の公式サイトにログインし、以下のリンクから Titanic コンペティションのページへアクセスします。

URL: https://www.kaggle.com/competitions/titanic/data

「Data」タブから 「Download All」 をクリックして ZIP ファイルをダウンロードし、作業用フォルダ(例:~/Documents/kaggle_titanic/)に解凍します。中には以下の3つの重要なファイルが入っています。

【 ダウンロードファイルの内訳 】

train.csv : 学習用データ。乗客の属性と「生存(1)・死亡(0)」の正解が含まれています。
test.csv : 予測用データ。このデータに対して、生存・死亡を予測します。
gender_submission.csv : 提出用サンプル。「女性は全員生存、男性は全員死亡」と仮定した、提出ファイルのフォーマット見本です。

2. 深掘り:実装前に「データ定義」を読み解く

コードを書く前に、Data ページにある Data Dictionary をよく読み、各カラム(変数)が何を意味しているかを理解しましょう。これが予測の精度を左右します。

VariableDefinitionKey
survival 生存か否か 0 = No, 1 = Yes
pclass チケットのクラス(社会経済的ステータス) 1 = 1st(Upper), 2 = 2nd(Middle), 3 = 3rd(Lower)
sex 性別
Age 年齢(1歳未満は分数、推定値はxx.5)
sibsp 同乗している兄弟・配偶者の数
parch 同乗している両親・子供の数
ticket チケット番号
fare 旅客運賃
cabin 客室番号
embarked 出港地(乗船した港) C=Cherbourg, Q=Queenstown, S=Southampton

【 ここが分析のヒント! 】

  • 家族構成: sibspparch を合わせることで、「家族連れか、単身か」という新しい特徴が見えてきます。※乳母と同行した子供は parch=0 になるという注意書きも重要です。
  • ステータス: pclass は単なる座席ランクではなく、当時の社会的な地位を反映しています。
  • 推定値: 年齢(Age)に 28.5 のような値がある場合、それは「推定値」であることを意味します。

3. 実装:Miniconda 環境で Python を動かす

今回の環境は Python 3.13.5 です。ターミナルを開き、Miniconda で pandas をインストールしてから、バージョン確認とデータの読み込みを行います。

【 環境構築とコードの実行イメージ 】

[ ターミナルでの準備 ]
conda install pandas
python --version # Python 3.13.5 であることを確認

[ ライブラリのバージョン確認 ]
>>> import pandas as pd
>>> print(pd.__version__)
2.3.3

[ データの読み込み ]
df = pd.read_csv('~/Documents/kaggle_titanic/train.csv')

[ 読み込みの確認 ]
print(df.shape)
# (891, 12)

print(df.head())

[ 実行結果 ]
PassengerId Survived Pclass ... Fare Cabin Embarked
0 1 0 3 ... 7.2500 NaN S
1 2 1 1 ... 71.2833 C85 C
2 3 1 3 ... 7.9250 NaN S
3 4 1 1 ... 53.1000 C123 S
4 5 0 3 ... 8.0500 NaN S

[5 rows x 12 columns]

--------------------------

Mac 上で Titanic の学習用データが正常に展開されました!

4. まとめ

最新の macOS 15.7.4Python 3.13.5 の組み合わせでも、pandas 2.3.3 を使った基本操作は非常にスムーズです。まずは shape でデータの全体像を掴み、head() で「顔」を眺めるところから。これで分析の土俵に上がることができました!

次回は、読み込んだデータの中身を詳しく診察する「健康診断(データの可視化や欠損値の確認)」、そして分析に欠かせないデータの加工(0/1の置き換えなど)に挑戦しましょう。

PR

【DS検定対策】確率の難所を攻略!「結果から原因を遡る」ベイズの定理

「赤玉を引いた」という結果がわかっているとき、それが「どの箱から来たのか」という原因を推測する。これが統計学で非常に重要な「ベイズの定理」の考え方です。図を使って整理していきましょう。

1. 問題:赤玉の正体を探せ

【 問題 】 外見が同じ2つの箱AとBがあります。箱Aには「赤4・白2」、箱Bには「赤2・白4」の玉が入っています。どちらか1つの箱をランダムに選び、玉を1個引いたところ「赤玉」でした。このとき、引いた箱が「箱A」である確率はいくらでしょうか?

① 1/2   ② 2/3   ③ 1/3   ④ 4/6

2. 整理:赤玉が選ばれる「2つのルート」

ベイズの定理のコツは、まず「赤玉が出る全パターン」を分母として書き出すことです。

【 世界の切り出し 】

[ 前提条件 ]
箱を選ぶ確率は、A・Bともに 1/2 です。

[ 全体の世界(分母):赤玉が出る全ルート ]
① 箱Aを選び、赤を引く: (1/2) × (4/6) = 4/12
② 箱Bを選び、赤を引く: (1/2) × (2/6) = 2/12
⇒ 赤が出る合計: 4/12 + 2/12 = 6/12

[ ターゲット(分子):その中で箱Aだった場合 ]
・ルート①の 4/12

--------------------------

確率: (4/12) / (6/12) = 4 / 6 = 2 / 3

3. 計算プロセス

1. 分母を出す: 「箱Aから赤が出る確率」と「箱Bから赤が出る確率」を足して、赤玉が出る全確率(6/12)を求めます。
2. 分子を置く: そのうち、今回のターゲットである「箱A由来の赤玉(4/12)」を分子に置きます。
3. 答えを出す: (4/12) ÷ (6/12) を計算し、約分して 2/3 となります。


4. DS検定形式:実戦4択クイズ

問:事象が起こる前の確率(箱を選ぶ1/2など)を「事前確率」と呼ぶのに対し、新しい情報(赤玉が出た)を得た後に更新された確率を何と呼ぶか。

① 条件付き期待値   ② 事後確率   ③ 尤度(ゆうど)   ④ 帰無仮説

【 正解: ② 】

解説: ベイズの定理によって導き出された「結果を知った後の確率」を「事後確率」と呼びます。データを得るたびに予測の精度を高めていくこの手法は、迷惑メールフィルタやAIの学習モデルなど、現代のデータサイエンスの根幹を支えています。


5. まとめ

「○○という結果のとき、原因が△△である確率」を問われたら、ベイズの定理の出番です。公式を丸暗記するよりも、「赤が出るルートを全部足して分母にする」という図解イメージを持つことで、ケアレスミスを劇的に減らすことができます!



【DS検定対策】セキュリティ攻略:しらばっくれを許さない「否認防止」

情報セキュリティの7要素を順番に解説するシリーズ。今回は、操作が行われた事実を後から否定させない「否認防止」の概念を整理します。

1. 【 問題 】

情報セキュリティの要素の中で、実際にシステムで行った操作や取引に対して、「そんなことはやっていない」と後から否定することを防ぐ特性はどれでしょうか?

① なりすまし防止(真正性)
② 否認防止(Non-repudiation)
③ 証跡保存
④ 実行保存


2. 【 解答 】

正解: ② 否認防止(Non-repudiation)

3. 整理:操作の事実を「証明」する世界

否認防止とは、いわば「デジタルな証拠」を確実に残し、第三者から見てもその事実を覆せなくすることです。

【 否認防止のイメージ 】

[ 1. 操作の発生 ]
「AさんがBさんに100万円振り込む」というボタンを押した。

[ 2. 証拠の固定 ]
デジタル署名やタイムスタンプが付与され、操作の内容と時刻がロックされる。

[ 3. しらばっくれの発生 ]
後日、Aさんが「そんな操作はしていない」と主張する。

[ 4. 第三者による検証 ]
★ ここが否認防止!
記録された証拠を照合し、「間違いなくAさんが操作した」ことを客観的に証明する。

--------------------------

ポイント: 真正性(本人の証明)と密接に関わりますが、その「事実を否定させない」という証拠能力に注目したものが「否認防止」です。

4. 代表的な技術手段

1. デジタル署名: 公開鍵暗号基盤(PKI)を用いて、誰がデータを作成したかを証明する。
2. タイムスタンプ: 第三者機関(時刻認証局)が、その時刻にデータが存在したことを証明する。
3. ログの改ざん防止: 記録そのものが書き換えられないよう、WORM(一度だけ書き込み可能)メディアなどに保存する。


5. DS検定形式:実戦4択クイズ

問:デジタル署名において、送信者が「確かにそのメッセージを送信した」ことを第三者が検証できるようにすることで実現されるセキュリティ特性はどれか。

① 機密性   ② 可用性   ③ 否認防止   ④ 信頼性

【 正解: ③ 】

解説: デジタル署名の主な役割は「真正性の確保(本人の証明)」と「否認防止(送信した事実の証明)」です。「やっていない」という主張を無効化する力が問われたら、否認防止を選びましょう。


6. まとめ

DS検定の用語問題では、「否定することを防止する」「事実を証明する」という表現が出てきたら「否認防止」が正解です。選択肢に似たような言葉(証跡保存など)が並んでも、国際標準(ISO/IEC 27000)で定義された「否認防止」というキーワードをしっかり選び抜きましょう!


【Python×機械学習】基本の論理演算を攻略!AND回路の実装と考え方無題

データサイエンスの基礎となる論理演算。今回は、2つの入力がともに「1」のときだけ「1」を出力する「AND回路」を、Pythonプログラムで実装する方法を解説します。

1. 考え方:AND(論理積)の世界

AND演算は、全ての条件が満たされたときだけ真(1)となる処理です。以下の2つのリストを組み合わせて、対応する要素ごとに判定を行います。

X1 = [0, 1, 0, 1]
X2 = [0, 0, 1, 1]

[ 判定ルール ]
・X1 と X2 がともに 1 のとき → 1
・それ以外のとき → 0

2. Pythonサンプルプログラム

関数を使って論理判定を行い、for文でリストの要素を順番に処理するコードを記述します。

def and_number(a, b):
    """aとbのAND判定を行う関数"""
    if a == 1 and b == 1:
        return 1
    else:
        return 0

def main():
    X1 = [0, 1, 0, 1]
    X2 = [0, 0, 1, 1]

    print("プログラムを開始します。")

    for i in range(4):
        y = and_number(X1[i], X2[i])
        print(f"{X1[i]}, {X2[i]} = {y}")

if __name__ == "__main__":
    main()

3. 実行結果

プログラムを開始します。
0, 0 = 0
1, 0 = 0
0, 1 = 0
1, 1 = 1

4. まとめ

論理回路の考え方は、プログラミングだけでなく「ベン図」を用いた集合の理解や、統計の条件抽出にも直結します。まずはこのシンプルな「0と1の世界」の判定ルールを、コードとセットでマスターしましょう!

【DS検定対策】確率の落とし穴を攻略!「条件付き確率」は世界を絞るのがコツ

確率の問題で多くの人が迷うのが、「条件が加わったとき」の計算です。今回はトランプを題材に、DS検定でも重要な「条件付き確率」の考え方を、図解で分かりやすく解説します。

1. 問題:黒いカードを引いたとき

【 問題 】 ジョーカーを除いた52枚のトランプから1枚引いたとき、そのカードが「黒(スペードまたはクラブ)」であることが分かっています。このとき、そのカードのマークが「クラブ」である確率はいくらでしょうか?

① 1/4   ② 1/2   ③ 13/52   ④ 1/13

2. 整理:標本空間(世界)の絞り込み

条件付き確率の最大のコツは、最初に「全体の世界」を条件に合わせて小さくすることです。

【 世界の切り出し 】

[ もともとの世界 ]
トランプ全 52枚(赤 26枚 + 黒 26枚)

[ 条件適用後の世界(分母) ]
「引いたカードが黒である」という条件より、
スペード(13枚) + クラブ(13枚) = 26枚

[ ターゲット(分子):その中でクラブ ]
・クラブの A, 2, 3 …… K

クラブの枚数: 13枚

--------------------------

確率: 13 / 26 = 1 / 2

3. 計算プロセス

1. 世界(分母)を限定する: 「黒である」という情報があるため、赤のカードを無視して 26枚 を分母にします。
2. ターゲット(分子)を数える: 限定された26枚の中に、クラブは 13枚 あります。
3. 答えを出す: 13/26 を約分して 1/2


4. DS検定形式:実戦4択クイズ

問:事象Aが起こったという条件のもとで、事象Bが起こる確率 $P(B|A)$ を何と呼ぶか。

① 独立確率   ② 条件付き確率   ③ 排反確率   ④ 事後分布

【 正解: ② 】

解説: ある情報が与えられたことで全事象(分母)が変化した後の確率を「条件付き確率」と呼びます。ベイズ統計学の基礎となる非常に重要な概念です。


5. まとめ

条件付き確率は、公式 $P(B|A) = \frac{P(A \cap B)}{P(A)}$ に当てはめるよりも、今回のように「分母となる世界を条件通りに書き換える」と考えたほうが直感的に理解しやすくなります。DS検定の計算問題でも、まずは「どの範囲を分母にするか」を意識しましょう!