括弧（丸かっこ）「鉤かっこ」

括弧には様々な種類のものがあり、組み合わせることによって文章を読みやすくすることなどができます。
しかし、あまり多くのものを使いすぎると逆効果となるので注意が必要です。
一つの作品で4～6種類くらいの括弧が適切な数だと思います。
必要最低限のみを使用し、スッキリとした文章を心がけましょう。
効果的に使うためはそれなりに経験が必要となりますので、最初は必須だと思われるもののみ使ってください。 

代表的なものを下記にて簡単に解説しておきます。
括弧の使い方は作家さんよって違ったりしますので、いろいろな小説を読んで研究をしてみてください。
下記に関してはあくまで僕個人による使用法ですので、ご参考程度でお願いいたします。

〇 文章中に使う括弧
（丸括弧）　→　心の中の声を表現するのに使用
「鉤括弧」　→　実際に発声をする台詞に使用
『二重鉤括弧』　→　他者の台詞を思い出したとき・言葉の引用時に使用
〈山括弧〉　→　言葉を強調したいときに使用

〇 タイトルなどを囲うために使う括弧
《二重山括弧》　→　項を表す
【墨付き括弧】　→　節を表す

日本語の文章では、全角括弧のみを使用します。
ある程度は自由に使ってもかまいませんが、読者が理解しやすいかを一番に考えて文章に組み込んでください。