投資初心者です。「確率」や「不確実性」とはどういった概念なのでしょうか？

これは数学科か少なくとも理工系で数学をちゃんとやった方ですね。これは逆に難しく考え過ぎておられています。株クラレベルで「確率」「不確実性」と言った言葉が使われる時、さほど難しい定義は行われておらず、確率は小中学校レベル、不確実性は一般用語として用いられていると理解するのが良いです。

また投資は経済学とは異なるものです。経済学の一分野ですらありません。理論経済学というのは「経済」という現象をモデルを用いて数学も援用しながら解析しようという学問です。一方、株式投資とは、株式市場でお金を儲けようという営利行為です。これを科学的に分析しようとする「投資工学」という学問もありますが、一般的に経済学ではなく数理科学の一分野とされます。

実際に投資の世界で使われる確率、不確実性、あるいは期待値と言った言葉は、話者の数学的知識のレベルによって、小学生レベル、一般用語レベルから数学的に厳密なものまで多様です。これは最初気持ちが悪いかもしれませんが、株クラにいるのであれば、慣れた方がいいです。

僕も数理経済学やゲーム理論をやったので、そっちの話をする時は神経を使いますが、投資に関連して使う時は、かなり丸い使い方で済ませています。期待値なんて特にそうです。